Higress
Active
什麼是 Higress?
Higress 是基於 Istio 和 Envoy 的雲原生 API 與 AI 閘道，支援用 Go、Rust、JS 編寫 Wasm 插件進行擴充。統一治理模型 API、MCP 工具呼叫和 Kubernetes 推理工作負載三類 AI 流量，支援 100+ 主流大模型的統一協議轉換、負載均衡與 Fallback。CNCF Sandbox 專案，源自阿里巴巴。
如何使用 Higress?
執行 `curl -sS https://higress.cn/ai-gateway/install.sh | bash` 透過 Docker 本地部署 AI 閘道。訪問 http://localhost:8001/ 控制台設定模型供應商、API Key、AI 路由和策略。Kubernetes 部署使用 Helm：`helm install higress -n higress-system higress.io/higress --create-namespace`。
Higress 核心特點
01
多模型統一接入
為 OpenAI 相容介面及主流大模型服務提供統一閘道入口，遮蔽不同廠商鑑權與介面差異。支援模型負載均衡及 Fallback，提升模型服務可靠性。
02
MCP 統一管理
支援 HTTP 到 MCP 的協議轉換及原生 MCP 服務代理，將分散的工具能力收斂為統一入口，降低多團隊、多環境的接入與維護成本。
03
Token 流量管理
除傳統 QPS 限流外，提供基於 Token 消耗的配額管理與限流能力，結合 API Key 池輪詢與消費者鑑權機制，有效防止模型過載。
04
語義快取
支援精確快取及語義快取推理結果，對常見相似/重複問題節省 Token 並減小時延，提升呼叫體驗。
05
雲原生 API 閘道
將流量閘道、微服務閘道和安全閘道三合一。支援 mTLS 雙向認證、WAF 整合、自訂安全插件，相容 Nginx Ingress 註解，遷移成本低。
06
插件擴充性
透過熱插拔插件快速接入 RAG、向量庫、日誌觀測、快取等 AI 生態元件。支援用 Go、Rust、JS 開發自訂 Wasm 插件。
Higress 使用案例
多模型代理，統一接入不同廠商的大模型 API
應用防護，對 AI 互動資料進行隱私保護與內容過濾
MCP Server 託管，讓 AI Agent 呼叫外部工具和服務
Token 管控，管理 AI 應用消費者的呼叫額度
Higress 常見問題解答
Higress 現在適合上生產系統嗎？
Higress 和 Envoy Gateway 有什麼區別？
Higress 能脫離 K8s 環境只用 Docker 執行嗎？
Higress 和阿里雲 MSE 雲原生閘道有什麼關係？
Higress 是否支援彈性伸縮？閘道是無狀態的嗎？
Higress 產品背景及官方連結
Higress 支援電子郵件和客戶服務聯絡資訊和退款聯絡方式等。
Higress 公司資訊
Higress 公司名稱： LF Projects, LLC
Higress 開發商類型： company
更多關於 Higress, 請訪問 關於我們頁面(https://higress.ai/docs/latest/overview/what-is-higress)
Higress 定價
Higress 定價連結： https://higress.ai/ai-gateway
Higress GitHub
Higress GitHub 連結： https://github.com/alibaba/higress