LiteLLM
Active
什麼是 LiteLLM?
LiteLLM 是一款開源的 AI 閘道與 LLM 代理，讓整個組織統一接入各類模型、智能體與 MCP 服務，並能檢視、控制與最佳化每一次請求。部署在你自己的基礎設施上，享有亞毫秒級開銷、統一的存取金鑰以及完整的稽核紀錄。開源閘道可免費自託管用於生產環境；企業版在同一閘道之上額外提供治理、安全與支援能力。
如何使用 LiteLLM?
1. 拉取 LiteLLM 的 Docker 映像（docker.litellm.ai/berriai/litellm:latest）並在 4000 連接埠執行。2. 將你的應用指向 LiteLLM 代理，用同一套金鑰把請求路由到任意模型。3. 在 LiteLLM 控制台中設定預算與存取控制，在請求執行前就限制開銷。4. 在稽核日誌中檢視每一次請求，並在儀表板中最佳化成本。
LiteLLM 核心特點
01
統一接入
透過一個閘道和同一套金鑰，讓全公司統一接入各類模型、智能體與 MCP 服務。
02
可視性與控制
檢視每一次請求並在其執行前加以限制，預算與存取控制都在 LiteLLM 控制台中設定。
03
成本最佳化
從統一儀表板追蹤各供應商的使用情況並最佳化支出，最大化你的 AI 投資報酬。
04
部署簡單
透過自託管的 Docker 部署與亞毫秒級開銷，一個下午即可在你自己的技術堆疊中上線。
05
金鑰與基礎設施盡在掌握
天生自託管：你的資料與金鑰始終留在你自己的基礎設施內，並保留完整的稽核紀錄。
LiteLLM 使用案例
透過單一閘道讓整個組織統一接入各類 LLM 供應商
按團隊、專案或使用者追蹤並在執行前限制 AI 支出
在受監管或本地環境中執行實體隔離的 LLM 代理
在眾多應用中統一模型路由、降級與重試策略
為安全審查保留每一次 AI 請求的完整稽核紀錄
LiteLLM 常見問題解答
開源版本真的可以免費用於生產環境嗎？
企業版如何定價？
可以實體隔離部署嗎？
你們會看到我們的資料或流量嗎？
有免費試用嗎？
如何購買？
LiteLLM 產品背景及官方連結
LiteLLM 支援電子郵件和客戶服務聯絡資訊和退款聯絡方式等。
更多聯絡方式，請訪問 關於我們頁面(https://docs.litellm.ai/docs/)
LiteLLM 公司資訊
LiteLLM 公司名稱： Berrie AI Incorporated
LiteLLM 開發商類型： company
更多關於 LiteLLM, 請訪問 關於我們頁面(https://docs.litellm.ai/docs/)
LiteLLM 定價
LiteLLM 定價連結： https://litellm.ai/pricing
LiteLLM 推特
LiteLLM 推特連結： https://x.com/litellm
LiteLLM 領英
LiteLLM 領英連結： https://www.linkedin.com/company/90867735
LiteLLM GitHub
LiteLLM GitHub 連結： https://github.com/BerriAI/litellm