Higress

Active

ٹیگ لائن:پیداوار AI اوپن سورس پیداواری کی سطح کا ایجنٹ ڈیولپمنٹ اور LLM API مینجمینٹ کے لیے

اپ ڈیٹ شدہ:6 ستمبر، 2026

Domain Rating:

سوشل میڈیا:-

اے آئی اے پی آئی انٹرفیس اے آئی ڈویلپر ٹولز AI ایجنٹ اوپن سورس API دستیاب خود میزبانی ڈویلپرز کے لیے اداروں کے لیے کلاؤڈ پر مبنی کثیر اللسانی AI ایجنٹ کے لیے تیار

ویب سائٹ کھولیں

ویب سائٹ دیکھیں

کیا ہے Higress?

Higress ایک کلاڈ نیٹو API اور AI گیٹ وے ہے جو Istio اور Envoy پر مبنی ہے، اور Go، Rust اور JS میں لکھے گئے Wasm پلگ اِنز کے ساتھ توسیع پذیر ہے۔ یہ ماڈل APIز، MCP ٹول کالز، اور Kubernetes انفیرنس ورک لوڈز کی یکجا حکمرانی کرتا ہے، اور 100+ اہم LLM ماڈلز کو متحد پروٹوکول تبدیلی، لوڈ بیلنسنگ اور فال بیک کے ساتھ سپورٹ کرتا ہے۔ CNCF سینڈ باکس پروجیکٹ، علی بابا میں پیدا ہوا۔

استعمال کرنے کا طریقہ Higress?

AI گیٹ وے کو مقامی طور پر Docker کے ذریعے تعینات کرنے کے لیے `curl -sS https://higress.cn/ai-gateway/install.sh | bash` چلائیں۔ ماڈل فراہم کنندگان، API کلیدز، AI روٹس اور پالیسیز کو کنفیگر کرنے کے لیے http://localhost:8001/ پر کنسول تک رسائی حاصل کریں۔ Kubernetes تعیناتی کے لیے Helm استعمال کریں: `helm install higress -n higress-system higress.io/higress --create-namespace`。

Higress بنیادی خصوصیات

متحد ملٹی ماڈل رسائی

OpenAI مطابق APIز اور اہم LLM سروسز کے لیے متحد گیٹ وے داخلہ نقطہ فراہم کرتا ہے، فراہم کنندگان کے درمیان توثیق اور انٹرفیس فرق کو چھپاتے ہوئے۔ قابل اعتمادی کے لیے ماڈل لوڈ بیلنسنگ اور فال بیک کو سپورٹ کرتا ہے۔

متحد MCP مینجمینٹ

HTTP سے MCP پروٹوکول تبدیلی اور مقامی MCP سروس پراکسی کی سپورٹ کرتا ہے، بکھرے ہوئے ٹول صلاحیتوں کو متحد داخلہ نقطہ میں یکجا کرتا ہے تاکہ انٹیگریشن اور مینٹیننس لاگت کم ہو۔

Token ٹریفک مینجمینٹ

روایتی QPS ریٹ لمٹنگ کے علاوہ، Token کھپت کوٹہ مینجمینٹ اور ریٹ لمٹنگ فراہم کرتا ہے، API کلید پول روٹیشن اور کنزیومر توثیق کے ساتھ ماڈل اوور لوڈ کو روکنے کے لیے۔

سیمنٹک کیشنگ

انفیرنس نتائج کی درست اور سیمنٹک کیشنگ کی سپورٹ کرتا ہے، مماثل یا دہرائے گئے سوالات کے لیے ٹوکنز بچاتا ہے اور لیٹینسی کم کرتا ہے۔

کلاڈ نیٹو API گیٹ وے

ٹریفک، مائیکروسروس اور سیکیورٹی گیٹ ویز کو ایک میں یکجا کرتا ہے۔ mTLS باہمی توثیق، WAF انٹیگریشن، کسٹم سیکیورٹی پلگ اِنز اور کم لاگت مائیگریشن کے لیے Nginx Ingress اینوٹیشن مطابقت کی سپورٹ کرتا ہے۔

پلگ اِن توسیع پذیری

ہاٹ سوئپ پلگ اِن ایکو سسٹم کے ذریعے تیزی سے RAG، ویکٹر ڈیٹا بیسز، لاگنگ، آبزرویبلٹی اور کیشنگ کو یکجا کرتا ہے۔ Go، Rust اور JS میں کسٹم Wasm پلگ اِن ڈیولپمنٹ کی سپورٹ کرتا ہے۔

Higress استعمال کے کیسز

فراہم کنندگان کے درمیان متحد LLM API رسائی کے لیے ملٹی ماڈل پراکسی

AI تعاملات کے لیے ڈیٹا پرائیویسی اور مواد فلٹرنگ کے ساتھ ایپلیکیشن تحفظ

AI ایجنٹس کو بیرونی ٹولز اور سروسز کال کرنے کے لیے MCP سرور ہوسٹنگ

AI ایپلیکیشن کنزیومرز کے لیے ٹوکن مینجمینٹ اور کوٹہ کنٹرول

Higress اکثر پوچھے گئے سوالات

کیا Higress پیداوار سسٹمز کے لیے مناسب ہے؟

ہاں، v1.0.0 اور اس سے اوپر کا استعمال تجویز کیا جاتا ہے۔ ورژن پلاننگ اور فیچر استحکام کے لیے پروجیکٹ روڈ میپ دیکھیں۔

Higress اور Envoy Gateway میں کیا فرق ہے؟

Higress Envoy پر بنایا گیا ہے اور Envoy Gateway کی طرح Gateway API معیار کی پیروی کرتا ہے، لیکن اس کے علاوہ WAF تحفظ، توثیق پلگ اِنز، ملٹی رجسٹری سپورٹ، پروٹوکول تبدیلی (HTTP سے Dubbo) اور کسٹم WASM/Lua پلگ اِن سپورٹ فراہم کرتا ہے۔