Higress

Active

Слоган:AI-шлюз з відкритим кодом виробничого рівня для розробки агентів та управління LLM API

Оновлено:6 вересня 2026 р.

Domain Rating:

Соціальні мережі:-

Інтерфейс AI API Інструменти розробника зі штучним інтелектом AI-агент Відкритий код API доступний Самохостинг Для розробників Для підприємств Хмарний Багатомовний Готовий до AI-агентів

Відкрити вебсайт

Перейти на вебсайт

Що таке Higress?

Higress — хмарний API та AI-шлюз на базі Istio та Envoy, розширюваний Wasm-плагінами на Go, Rust та JS. Об'єднує управління API моделей, викликами інструментів MCP та робочими навантаженнями інференсу Kubernetes, підтримуючи 100+ основних LLM з уніфікованим перетворенням протоколів, балансуванням навантаження та резервуванням. Проєкт CNCF Sandbox, створений в Alibaba.

Як користуватися Higress?

Виконайте `curl -sS https://higress.cn/ai-gateway/install.sh | bash` для локального розгортання AI-шлюзу через Docker. Відкрийте консоль за адресою http://localhost:8001/ для налаштування постачальників моделей, API-ключів, AI-маршрутів та політик. Для розгортання в Kubernetes використовуйте Helm: `helm install higress -n higress-system higress.io/higress --create-namespace`。

Higress Основні функції

Уніфікований доступ до кількох моделей

Надає єдиний вхідний шлюз для OpenAI-сумісних API та основних LLM-сервісів, приховуючи відмінності в аутентифікації та інтерфейсах між постачальниками. Підтримує балансування навантаження та резервування моделей для надійності.

Уніфіковане управління MCP

Підтримує перетворення протоколу HTTP-у-MCP та проксування нативних MCP-сервісів, консолідуючи розрізнені інструменти в єдину точку входу для зниження витрат на інтеграцію та обслуговування.

Управління токеновим трафіком

Окрім традиційного обмеження швидкості QPS, пропонує управління квотами споживання токенів та обмеження швидкості в поєднанні з ротацією пулу API-ключів та аутентифікацією споживачів для запобігання перевантаженню моделей.

Семантичне кешування

Підтримує точне та семантичне кешування результатів інференсу, економлячи токени та знижуючи затримки для подібних або повторюваних запитів.

Хмарний API-шлюз

Об'єднує шлюзи трафіку, мікросервісів та безпеки в одному. Підтримує взаємну аутентифікацію mTLS, інтеграцію WAF, користувацькі плагіни безпеки та сумісність з анотаціями Nginx Ingress для недорогої міграції.

Розширюваність плагінів

Швидко інтегрує RAG, векторні бази даних, логування, спостережуваність та кешування через екосистему гарячої заміни плагінів. Підтримує розробку користувацьких Wasm-плагінів на Go, Rust та JS.

Higress Сценарії використання

Мультимодельне проксування для уніфікованого доступу до LLM API різних постачальників

Захист додатків із забезпеченням конфіденційності даних та фільтрацією контенту для AI-взаємодій

Хостинг MCP-серверів для виклику AI-агентами зовнішніх інструментів та сервісів

Управління токенами та контроль квот для споживачів AI-додатків

Higress Часті запитання

Чи підходить Higress для виробничих систем?

Так, рекомендується використовувати версію v1.0.0 та вище. Зверніться до дорожньої карти проєкту для планування версій та стабільності функцій.

У чому різниця між Higress та Envoy Gateway?

Higress побудований на Envoy та відповідає стандарту Gateway API як Envoy Gateway, але додатково надає захист WAF, плагіни аутентифікації, підтримку кількох реєстрів, перетворення протоколів (HTTP-у-Dubbo) та підтримку користувацьких плагінів WASM/Lua.