Higress
Active
什么是 Higress?
Higress 是基于 Istio 和 Envoy 的云原生 API 与 AI 网关，支持用 Go、Rust、JS 编写 Wasm 插件进行扩展。统一治理模型 API、MCP 工具调用和 Kubernetes 推理工作负载三类 AI 流量，支持 100+ 主流大模型的统一协议转换、负载均衡与 Fallback。CNCF Sandbox 项目，源自阿里巴巴。
如何使用 Higress?
执行 `curl -sS https://higress.cn/ai-gateway/install.sh | bash` 通过 Docker 本地部署 AI 网关。访问 http://localhost:8001/ 控制台配置模型供应商、API Key、AI 路由和策略。Kubernetes 部署使用 Helm：`helm install higress -n higress-system higress.io/higress --create-namespace`。
Higress 核心特点
01
多模型统一接入
为 OpenAI 兼容接口及主流大模型服务提供统一网关入口，屏蔽不同厂商鉴权与接口差异。支持模型负载均衡及 Fallback，提升模型服务可靠性。
02
MCP 统一管理
支持 HTTP 到 MCP 的协议转换及原生 MCP 服务代理，将分散的工具能力收敛为统一入口，降低多团队、多环境的接入与维护成本。
03
Token 流量管理
除传统 QPS 限流外，提供基于 Token 消耗的配额管理与限流能力，结合 API Key 池轮询与消费者鉴权机制，有效防止模型过载。
04
语义缓存
支持精确缓存及语义缓存推理结果，对常见相似/重复问题节省 Token 并减小时延，提升调用体验。
05
云原生 API 网关
将流量网关、微服务网关和安全网关三合一。支持 mTLS 双向认证、WAF 集成、自定义安全插件，兼容 Nginx Ingress 注解，迁移成本低。
06
插件扩展性
通过热插拔插件快速接入 RAG、向量库、日志观测、缓存等 AI 生态组件。支持用 Go、Rust、JS 开发自定义 Wasm 插件。
Higress 使用案例
多模型代理，统一接入不同厂商的大模型 API
应用防护，对 AI 交互数据进行隐私保护与内容过滤
MCP Server 托管，让 AI Agent 调用外部工具和服务
Token 管控，管理 AI 应用消费者的调用额度
Higress 常见问题解答
Higress 现在适合上生产系统吗？
Higress 和 Envoy Gateway 有什么区别？
Higress 能脱离 K8s 环境只用 Docker 运行吗？
Higress 和阿里云 MSE 云原生网关有什么关系？
Higress 是否支持弹性伸缩？网关是无状态的吗？
Higress 产品背景及官方链接
Higress 支持电子邮件和客户服务联系方式和退款联系方式等。
Higress 公司信息
Higress 公司名称： LF Projects, LLC
Higress 开发商类型： company
更多关于 Higress, 请访问 关于我们页面(https://higress.ai/docs/latest/overview/what-is-higress)
Higress 定价
Higress 定价链接： https://higress.ai/ai-gateway
Higress GitHub
Higress GitHub 链接： https://github.com/alibaba/higress