DeepInfra
Active
什麼是 DeepInfra?
DeepInfra 是一個高效能 AI 推理雲端平台，專為運行開源機器學習模型打造，提供相容 OpenAI 的標準 API 接口。平台支援主流大型語言模型、電腦視覺、文字向量嵌入、語音辨識與多模態架構，採用按 Token 和推理時長計費的彈性模式，並提供基於企業級 GPU 的專屬部署方案。
如何使用 DeepInfra?
1. 登入 DeepInfra 帳戶，並在控制台中建立 API 金鑰。
2. 設定環境變數：export DEEPINFRA_API_KEY=<你的金鑰>。
3. 將 OpenAI SDK 或 HTTP 客戶端的 Base URL 指向 https://api.deepinfra.com/v1/openai，即可直接發起對話補全或推理請求。
DeepInfra 核心特點
01
OpenAI 相容 API
無縫替換 OpenAI SDK，僅需將請求端點修改為 https://api.deepinfra.com/v1/openai，無需修改現有業務程式碼。
02
豐富的開源模型庫
託管並運行 100+ 款主流模型，涵蓋文字生成、視覺多模態、向量嵌入、語音辨識及影片生成。
03
按 Token 與執行時長計費
嚴格按照輸入輸出 Token 或推理執行時間計費，無預付門檻、無席位費，杜絕 GPU 閒置成本。
04
私有模型部署與 GPU 算力租用
支援部署自訂微調模型及 LoRA 適配器，或租用 NVIDIA A100、H100、H200、B200 及 B300 專屬實例。
05
高並發支援與 Prompt 快取
單模型預設支援 200 並發請求，搭配前綴快取與保留期機制，大幅降低推理延遲與成本。
DeepInfra 使用案例
使用標準 OpenAI 客戶端庫將開源大型語言模型快速接入生產環境
藉助高性價比的文字嵌入與重排序端點構建 RAG 和語意檢索流程
在具備自動擴展彈性的專用 GPU 基礎設施上部署自訂微調模型與 LoRA 適配器
利用高吞吐量 Whisper 與 TTS 模型實現高品質語音轉錄與語音合成
DeepInfra 常見問題解答
如何從 OpenAI 遷移到 DeepInfra？
DeepInfra 的預設速率限制是多少？
DeepInfra 如何進行費用結算？
是否支援部署自訂模型或 LoRA 適配器？
DeepInfra 產品背景及官方連結
DeepInfra 支援電子郵件和客戶服務聯絡資訊和退款聯絡方式等。
DeepInfra 支援電子郵件： feedback@deepinfra.com
更多聯絡方式，請訪問 關於我們頁面(https://docs.deepinfra.com)
DeepInfra 公司資訊
DeepInfra 公司名稱： Deep Infra Inc.
DeepInfra 開發商類型： company
DeepInfra 公司地址： DE, US
更多關於 DeepInfra, 請訪問 關於我們頁面(https://docs.deepinfra.com)
DeepInfra 定價
DeepInfra 定價連結： https://deepinfra.com/pricing
DeepInfra 推特
DeepInfra 推特連結： https://x.com/DeepInfra
DeepInfra 領英
DeepInfra 領英連結： https://linkedin.com/company/deep-infra
DeepInfra GitHub
DeepInfra GitHub 連結： https://github.com/DeepInfra