DeepInfra

Active

ٹیگ لائن:اوپن اے آئی سے مطابقت رکھنے والا API اور اوپن سورس ماڈلز پر مبنی AI انفیرنس کلاؤڈ

اپ ڈیٹ شدہ:22 اکتوبر، 2026

Domain Rating:

سوشل میڈیا:

اے آئی اے پی آئی انٹرفیس اے آئی ڈویلپر ٹولز API دستیاب کلاؤڈ پر مبنی ڈویلپرز کے لیے اسٹارٹ اپ کے لیے اداروں کے لیے اوپن سورس AI ایجنٹ کے لیے تیار اصل وقت

ویب سائٹ کھولیں

ویب سائٹ دیکھیں

کیا ہے DeepInfra?

DeepInfra ایک جدید اور وسیع پیمانے پر قابل توسیع AI انفیرنس کلاؤڈ ہے جو OpenAI سے مطابقت رکھنے والے API کے ذریعے اوپن سورس مشین لرننگ ماڈلز چلانے کے لیے بنایا گیا ہے۔ یہ LLMs، کمپیوٹر ویژن، ایمبیڈنگز، آواز اور ملٹی موڈل ماڈلز کو فی ٹوکن بلنگ اور کارپوریٹ سطح کے مخصوص GPUs پر تعیناتی کی سہولت فراہم کرتا ہے۔

استعمال کرنے کا طریقہ DeepInfra?

1. اپنے DeepInfra اکاؤنٹ میں لاگ ان کریں اور ڈیش بورڈ سے نیا API key بنائیں۔ 2. اپنے ماحول کا متغیر سیٹ کریں: export DEEPINFRA_API_KEY=<آپ کی کلید>۔ 3. اپنے OpenAI SDK کا base URL تبدیل کر کے https://api.deepinfra.com/v1/openai پر رکھیں اور درخواستیں بھیجیں۔

DeepInfra بنیادی خصوصیات

OpenAI ہم آہنگ API

https://api.deepinfra.com/v1/openai پر کوڈ میں کسی تبدیلی کے بغیر OpenAI SDKs کا فوری اور متبادل حل۔

100 سے زائد ماڈلز کا مجموعہ

متن کی تیاری، تصویر، ویکٹر ایمبیڈنگز، آواز اور ویڈیو کے لیے 100 سے زائد جدید اوپن سورس ماڈلز کی میزبانی۔

فی ٹوکن اور وقت کے مطابق بلنگ

کسی کم از کم فیس یا خالی GPU چارجز کے بغیر استعمال شدہ ٹوکنز یا کمپیوٹ کے درست وقت پر بلنگ۔

پرائیویٹ ماڈل کی تنصیب اور GPU کرایہ

اپنے فائن ٹیونڈ ماڈلز اور LoRA ایڈاپٹرز تعینات کریں یا NVIDIA A100، H100، H200، B200 اور B300 سرورز کرائے پر حاصل کریں۔

اعلی ہم آہنگی اور پرامپٹ کیشنگ

فی ماڈل ڈیفالٹ 200 ہم وقتی درخواستوں کی معاونت اور تاخیر و لاگت میں کمی کے لیے پرامپٹ کیشنگ کی سہولت۔

DeepInfra استعمال کے کیسز

معیاری OpenAI کلائنٹ لائبریریز کے ذریعے اوپن سورس LLMs کو لائیو پروڈکشن ایپلیکیشنز میں شامل کرنا

کفایت شعار ایمبیڈنگ اور ری رینکنگ اینڈ پوائنٹس کی مدد سے RAG اور معنوی تلاش کے نظام قائم کرنا

خودکار اسکیلنگ کے ساتھ مخصوص GPU انفراسٹرکچر پر کسٹم ماڈلز اور LoRA ایڈاپٹرز کی تعیناتی

تیز رفتار Whisper اور TTS ماڈلز کے ذریعے آڈیو ٹرانسکرپشن اور اسپیچ سنتھیسز کے کام انجام دینا

DeepInfra اکثر پوچھے گئے سوالات

OpenAI سے DeepInfra پر کیسے منتقل ہوں؟

DeepInfra https://api.deepinfra.com/v1/openai پر OpenAI سے مکمل مطابقت رکھنے والا اینڈپوائنٹ فراہم کرتا ہے۔ صرف base_url اور اپنی API کلید تبدیل کریں، کوڈ کے باقی حصے میں کوئی ترمیم درکار نہیں۔

DeepInfra میں ڈیفالٹ ریٹ لمٹ کیا ہے؟

ہر اکاؤنٹ کے لیے فی ماڈل 200 ہم وقتی درخواستوں کی حد ہوتی ہے۔ ایک سے زائد ماڈلز بیک وقت استعمال کرنے سے کل گنجائش میں خودکار اضافہ ہوتا ہے۔

DeepInfra پر بلنگ کیسے کام کرتی ہے؟

DeepInfra ضرورت کے مطابق ادائیگی کے ماڈل پر کام کرتا ہے: لینگویج ماڈلز فی ٹوکن اور دیگر ماڈلز پروسیسنگ وقت کے لحاظ سے چارج کیے جاتے ہیں۔ بیکار پڑے سرورز کا کوئی خرچ نہیں۔