DeepInfra
Active
क्या है DeepInfra?
कैसे उपयोग करें DeepInfra?
DeepInfra मुख्य विशेषताएं
OpenAI-संगत API
बिना कोड बदले https://api.deepinfra.com/v1/openai पर OpenAI SDKs के लिए सीधा ड्रॉप-इन रिप्लेसमेंट।
100 से अधिक मॉडल्स का संग्रह
टेक्स्ट जनरेशन, विज़न, एम्बेडिंग्स, स्पीच रिकग्निशन और वीडियो के लिए 100 से अधिक ओपन-सोर्स मॉडल होस्ट और रन करें।
प्रति-टोकन और निष्पादन समय बिलिंग
बिना किसी अग्रिम शुल्क या खाली GPU लागत के, केवल इनपुट/आउटपुट टोकन या वास्तविक निष्पादन समय के लिए पारदर्शी बिलिंग।
प्राइवेट मॉडल डिप्लॉयमेंट और GPU रेंटल
कस्टम फाइन-ट्यून मॉडल और LoRA एडेप्टर चलाएं या समर्पित NVIDIA A100, H100, H200, B200 और B300 इंस्टेंस किराए पर लें।
उच्च समवर्ती और प्रॉम्प्ट कैशिंग
विलंबता और लागत कम करने के लिए प्रॉम्प्ट कैशिंग के साथ प्रति मॉडल डिफ़ॉल्ट 200 समवर्ती अनुरोधों का समर्थन।
DeepInfra उपयोग के मामले
मानक OpenAI क्लाइंट लाइब्रेरी का उपयोग करके ओपन-सोर्स LLMs को प्रोडक्शन अनुप्रयोगों में एकीकृत करना
किफायती एम्बेडिंग और रीरैंकिंग एंडपॉइंट के साथ RAG और सिमेंटिक सर्च सिस्टम तैयार करना
ऑटो-स्केलिंग के साथ समर्पित GPU इंफ्रास्ट्रक्चर पर कस्टम फाइन-ट्यून मॉडल और LoRA एडेप्टर तैनात करना
उच्च-थ्रूपुट Whisper और TTS मॉडल का उपयोग करके ऑडियो ट्रांसक्रिप्शन और वॉइस जनरेशन निष्पादित करना
DeepInfra अक्सर पूछे जाने वाले प्रश्न
मैं OpenAI से DeepInfra पर कैसे स्विच करूं?
DeepInfra पर डिफ़ॉल्ट दर सीमाएं क्या हैं?
DeepInfra बिलिंग कैसे काम करती है?
क्या मैं कस्टम मॉडल या LoRA तैनात कर सकता हूँ?
DeepInfra उत्पाद पृष्ठभूमि और आधिकारिक लिंक
DeepInfra सहायता ईमेल और ग्राहक सेवा संपर्क और धनवापसी संपर्क आदि।
DeepInfra सहायता ईमेल: feedback@deepinfra.com
अधिक संपर्क, देखें हमारे बारे में पृष्ठ(https://docs.deepinfra.com)
DeepInfra कंपनी की जानकारी
DeepInfra कंपनी का नाम: Deep Infra Inc.
DeepInfra डेवलपर प्रकार: company
DeepInfra कंपनी का पता: DE, US
के बारे में अधिक DeepInfra, कृपया यहाँ जाएँ हमारे बारे में पृष्ठ(https://docs.deepinfra.com)
DeepInfra मूल्य निर्धारण
DeepInfra मूल्य निर्धारण लिंक: https://deepinfra.com/pricing
DeepInfra ट्विटर
DeepInfra ट्विटर लिंक: https://x.com/DeepInfra
DeepInfra लिंक्डइन
DeepInfra लिंक्डइन लिंक: https://linkedin.com/company/deep-infra
DeepInfra गिटहब
DeepInfra गिटहब लिंक: https://github.com/DeepInfra
DeepInfra मूल्य निर्धारण और योजनाएं
उपयोग के अनुसार भुगतान
आवर्ती- कोई अग्रिम शुल्क या निश्चित सदस्यता शुल्क नहीं
- टोकन या वास्तविक निष्पादन समय के आधार पर सटीक बिलिंग
- कैश किए गए प्रॉम्प्ट्स पर 80% तक की छूट
- प्रति मॉडल डिफ़ॉल्ट 200 समवर्ती अनुरोध
- 100 से अधिक ओपन-सोर्स मॉडल तक पहुंच
GPU इंस्टेंस
आवर्ती- समर्पित NVIDIA A100, H100, H200, B200 और B300 GPUs
- ऑटोस्केलिंग और कस्टम कंटेनर समर्थन
- प्राइवेट मॉडल और LoRA एडेप्टर डिप्लॉयमेंट
- पूर्ण हार्डवेयर आइसोलेशन
Enterprise
contact- समर्पित क्लस्टर और आरक्षित क्षमता
- कस्टम दर सीमा वृद्धि
- एंटरप्राइज SLAs और प्राथमिकता सहायता
- कस्टम बिलिंग शर्तें और इनवॉइसिंग