Higress

Active

Слоган:AI-шлюз с открытым исходным кодом производственного уровня для разработки агентов и управления LLM API

Обновлено:6 сентября 2026 г.

Domain Rating:

Социальные сети:-

Интерфейс AI API Инструменты разработчика ИИ AI-агент Открытый код API доступен Самохостинг Для разработчиков Для предприятий Облачный Многоязычный Готов к ИИ-агентам

Открыть сайт

Посетить сайт

Что такое Higress?

Higress — это облачный API и AI-шлюз на базе Istio и Envoy, расширяемый Wasm-плагинами на Go, Rust и JS. Объединяет управление API моделей, вызовами инструментов MCP и рабочими нагрузками инференса Kubernetes, поддерживая 100+ основных LLM с унифицированным преобразованием протоколов, балансировкой нагрузки и резервированием. Проект CNCF Sandbox, созданный в Alibaba.

Как использовать Higress?

Выполните `curl -sS https://higress.cn/ai-gateway/install.sh | bash` для локального развёртывания AI-шлюза через Docker. Откройте консоль по адресу http://localhost:8001/ для настройки провайдеров моделей, API-ключей, AI-маршрутов и политик. Для развёртывания в Kubernetes используйте Helm: `helm install higress -n higress-system higress.io/higress --create-namespace`。

Higress Основные функции

Унифицированный доступ к нескольким моделям

Предоставляет единый входной шлюз для OpenAI-совместимых API и основных LLM-сервисов, скрывая различия в аутентификации и интерфейсах между поставщиками. Поддерживает балансировку нагрузки и резервирование моделей для надёжности.

Унифицированное управление MCP

Поддерживает преобразование протокола HTTP-в-MCP и проксирование нативных MCP-сервисов, консолидируя разрозненные инструменты в единую точку входа для снижения затрат на интеграцию и обслуживание.

Управление токенным трафиком

Помимо традиционного ограничения скорости QPS, предлагает управление квотами потребления токенов и ограничение скорости в сочетании с ротацией пула API-ключей и аутентификацией потребителей для предотвращения перегрузки моделей.

Семантическое кэширование

Поддерживает точное и семантическое кэширование результатов инференса, экономя токены и снижая задержки для похожих или повторяющихся запросов.

Облачный API-шлюз

Объединяет шлюзы трафика, микросервисов и безопасности в одном. Поддерживает взаимную аутентификацию mTLS, интеграцию WAF, пользовательские плагины безопасности и совместимость с аннотациями Nginx Ingress для недорогой миграции.

Расширяемость плагинов

Быстро интегрирует RAG, векторные базы данных, логирование, наблюдаемость и кэширование через экосистему горячей замены плагинов. Поддерживает разработку пользовательских Wasm-плагинов на Go, Rust и JS.

Higress Сценарии использования

Мультимодельное проксирование для унифицированного доступа к LLM API разных поставщиков

Защита приложений с обеспечением конфиденциальности данных и фильтрацией контента для AI-взаимодействий

Хостинг MCP-серверов для вызова AI-агентами внешних инструментов и сервисов

Управление токенами и контроль квот для потребителей AI-приложений

Higress Часто задаваемые вопросы

Подходит ли Higress для производственных систем?

Да, рекомендуется использовать версию v1.0.0 и выше. Обратитесь к дорожной карте проекта для планирования версий и стабильности функций.

В чём разница между Higress и Envoy Gateway?

Higress построен на Envoy и следует стандарту Gateway API как Envoy Gateway, но дополнительно предоставляет защиту WAF, плагины аутентификации, поддержку нескольких реестров, преобразование протоколов (HTTP-в-Dubbo) и поддержку пользовательских плагинов WASM/Lua.