LiteLLM

Active

ٹیگ لائن:AI گیٹ وے پلیٹ فارم ٹیموں کے لیے

اپ ڈیٹ شدہ:-

سوشل میڈیا:

اے آئی اے پی آئی انٹرفیس اے آئی ڈویلپر ٹولز AI ایجنٹ اے آئی اسسٹنٹ اوپن سورس خود میزبانی API دستیاب مفت فریمیئم فری ٹرائل کلاؤڈ پر مبنی ڈویلپرز کے لیے

ویب سائٹ کھولیں

ویب سائٹ دیکھیں

کیا ہے LiteLLM?

LiteLLM ایک اوپن سورس AI گیٹ وے اور LLM پراکسی ہے جو آپ کی پوری تنظیم کو ہر ماڈل، ایجنٹ اور MCP سرور تک رسائی دیتا ہے، اور پھر آپ کو ہر درخواست کو دیکھنے، کنٹرول کرنے اور بہتر بنانے کے قابل بناتا ہے۔ اسے اپنی اپنی انفراسٹرکچر پر چلا کر ایک ملی سیکنڈ سے کم اوور ہیڈ، متحد رسائی کی چابیاں اور مکمل آڈٹ لاگ حاصل کریں۔ اوپن سورس گیٹ وے پروڈکشن میں خود میزبانی کے لیے مفت ہے؛ Enterprise اسی گیٹ وے پر گورننس، سیکیورٹی اور سپورٹ شامل کرتا ہے۔

استعمال کرنے کا طریقہ LiteLLM?

1. LiteLLM کا Docker امیج کھینچیں (docker.litellm.ai/berriai/litellm:latest) اور اسے پورٹ 4000 پر چلایں۔ 2. اپنی ایپ کو LiteLLM پراکسی کی طرف اشارہ کریں اور ایک ہی چابی کے سیٹ سے درخواستوں کو کسی بھی ماڈل کی طرف روٹ کریں۔ 3. لاگو کرنے سے پہلے اخراجات کو محدود کرنے کے لیے LiteLLM کنسول میں بجٹ اور رسائی کنٹرول سیٹ کریں۔ 4. آڈٹ لاگ میں ہر درخواست کا جائزہ لیں اور ڈیش بورڈ سے لاگت کو بہتر بنائیں۔

LiteLLM بنیادی خصوصیات

رسائی

ایک گیٹ وے اور ایک ہی چابی کے سیٹ کے ذریعے پوری کمپنی کو ہر ماڈل، ایجنٹ اور MCP سرور تک رسائی دیں۔

نظر اور کنٹرول

ہر درخواست کو دیکھیں اور اسے لاگو ہونے سے پہلے محدود کریں۔ بجٹ اور رسائی کنٹرول LiteLLM کنسول میں سیٹ کیے جاتے ہیں۔

لاگت کی اصلاح

ایک ہی ڈیش بورڈ سے فراہم کنندہ کے لحاظ سے استعمال کا سراغ لگائیں اور اپنی AI کی ROI کو زیادہ سے زیادہ کرنے کے لیے اخراجات بہتر بنائیں۔

آسان تعیناتی

خود میزبان Docker تعیناتی اور ایک ملی سیکنڈ سے کم اوور ہیڈ کے ساتھ آپ ایک دوپہر میں اپنے اسٹیک میں لائیو ہو جاتے ہیں۔

آپ کی چابیاں، آپ کی انفراسٹرکچر

خود میزبانی کے لیے ڈیزائن کیا گیا: آپ کا ڈیٹا اور چابیاں کبھی بھی اپنی انفراسٹرکچر سے باہر نہیں جاتیں، اور آپ ایک مکمل آڈٹ لاگ رکھتے ہیں۔

LiteLLM استعمال کے کیسز

ایک گیٹ وے کے ذریعے پوری تنظیم کو ہر LLM فراہم کنندہ تک متحد رسائی دینا

لاگو کرنے سے پہلے ٹیم، پروجیکٹ یا صارف کے لحاظ سے AI اخراجات کو ٹریک اور محدود کرنا

منظم یا آن پرمائس ماحول میں الگ تھلگ (air-gapped) LLM پراکسی چلانا

بہت سی ایپلی کیشنز میں ماڈل روٹنگ، فال بیک اور ری ٹرائیز کو یکجان کرنا

سیکیورٹی جائزوں کے لیے ہر AI درخواست کا مکمل آڈٹ لاگ محفوظ کرنا

LiteLLM اکثر پوچھے گئے سوالات

کیا اوپن سورس ورژن واقعی طور پر پروڈکشن کے لیے مفت ہے؟

ہاں۔ LiteLLM OSS کو بغیر لائسنس فیس کے، ہمیشہ کے لیے خود میزبان کریں۔ Enterprise اسی گیٹ وے پر گورننس، سیکیورٹی اور سپورٹ شامل کرتا ہے۔

Enterprise کی قیمت کیسے طے ہوتی ہے؟

آپ کے سالانہ گیٹ وے درخواستوں کے حجم، تعیناتی آرکیٹیکچر اور سپورٹ کی ضروریات کے حساب سے — کبھی ٹوکن فیس نہیں۔ اپنی مرضی کی پیشکش کے لیے سیلز سے رابطہ کریں۔

کیا ہم اسے الگ تھلگ (air-gapped) چلا سکتے ہیں؟

ہاں — الگ تھلگ تعیناتی Enterprise Standard اور SCALE دونوں پر دستیاب ہے۔

کیا آپ ہمارا ڈیٹا یا ٹریفک دیکھتے ہیں؟

نہیں۔ LiteLLM خود میزبان ہے، اس لیے آپ کا ڈیٹا اور چابیاں کبھی بھی اپنی انفراسٹرکچر سے باہر نہیں جاتیں۔

کیا مفت ٹرائل ہے؟

ہاں — بغیر کریڈٹ کارڈ کے، ای میل کے ذریعے فوری 30 دن کا Enterprise ٹرائل کی حاصل کریں۔ اسے Enterprise صفحے پر شروع کریں؛ سیلز صرف اگر آپ چاہیں تو رابطہ کرے گی۔

ہم خریداری کیسے کرتے ہیں؟

براہ راست، یا اگر آپ کے خریداری کے عمل سے ملتا ہو تو AWS Marketplace اور مجاز ری سیلرز کے ذریعے۔

LiteLLM پروڈکٹ کا پس منظر اور آفیشل لنکس

LiteLLM سپورٹ ای میل اور کسٹمر سروس رابطہ اور رقم کی واپسی کا رابطہ وغیرہ۔

مزید رابطہ کریں، ملاحظہ کریں ہمارے بارے میں صفحہ(https://docs.litellm.ai/docs/)

LiteLLM کمپنی کی معلومات

LiteLLM کمپنی کا نام: Berrie AI Incorporated

LiteLLM ڈویلپر کی قسم: company

کے بارے میں مزید LiteLLM, براہ کرم ملاحظہ کریں ہمارے بارے میں صفحہ(https://docs.litellm.ai/docs/)

LiteLLM قیمتیں

LiteLLM قیمتوں کا لنک: https://litellm.ai/pricing

LiteLLM ٹویٹر

LiteLLM ٹویٹر لنک: https://x.com/litellm

LiteLLM لنکڈ ان

LiteLLM لنکڈ ان لنک: https://www.linkedin.com/company/90867735

LiteLLM گٹ ہب

LiteLLM گٹ ہب لنک: https://github.com/BerriAI/litellm

LiteLLM قیمتیں اور منصوبے

اوپن سورس

مفت

ہمیشہ کے لیے مفت

خود میزبان گیٹ وے
پروڈکشن استعمال کے لیے کوئی لائسنس فیس نہیں
تمام ماڈلز اور MCP تک متحد رسائی
کمیونٹی سپورٹ

ابھی سبسکرائب اور اپ گریڈ کریں

Enterprise

contact

سیلز سے رابطہ کریں

درخواستوں کے سالانہ حجم، تعیناتی آرکیٹیکچر اور سپورٹ کی ضروریات کے حساب سے سالانہ قیمت — کبھی ٹوکن فیس نہیں
اسی گیٹ وے پر گورننس، سیکیورٹی اور سپورٹ
الگ تھلگ تعیناتی (Standard اور SCALE)
فوری 30 دن کا Enterprise ٹرائل کی، بغیر کریڈٹ کارڈ
براہ راست خرید، AWS Marketplace یا مجاز ری سیلرز کے ذریعے