DeepInfra
Active
什么是 DeepInfra?
DeepInfra 是一个高性能 AI 推理云平台，专为运行开源机器学习模型打造，提供兼容 OpenAI 的标准 API 接口。平台支持主流大语言模型、计算机视觉、文本向量嵌入、语音识别与多模态架构，采用按 Token 和推理时长计费的灵活模式，并提供基于企业级 GPU 的专属部署方案。
如何使用 DeepInfra?
1. 登录 DeepInfra 账户，并在控制台中创建 API 密钥。
2. 配置环境变量：export DEEPINFRA_API_KEY=<你的密钥>。
3. 将 OpenAI SDK 或 HTTP 客户端的 Base URL 指向 https://api.deepinfra.com/v1/openai，即可直接发起对话补全或推理请求。
DeepInfra 核心特点
01
OpenAI 兼容 API
无缝平替 OpenAI SDK，仅需将请求端点修改为 https://api.deepinfra.com/v1/openai，无需修改现有业务代码。
02
丰富的开源模型库
托管并运行 100+ 款主流模型，覆盖文本生成、视觉多模态、向量嵌入、语音识别及视频生成。
03
按 Token 与执行时长计费
严格按照输入输出 Token 或推理执行时间计费，无预付门槛、无席位费，杜绝 GPU 空转成本。
04
私有模型部署与 GPU 算力租用
支持部署自定义微调模型及 LoRA 适配器，或租用 NVIDIA A100、H100、H200、B200 及 B300 专属实例。
05
高并发支持与 Prompt 缓存
单模型默认支持 200 并发请求，搭配前缀缓存与保留期机制，大幅降低推理延迟与成本。
DeepInfra 使用案例
使用标准 OpenAI 客户端库将开源大语言模型快速接入生产环境
借助高性价比的文本嵌入与重排序端点构建 RAG 和语义检索流程
在具备自动扩缩容的专用 GPU 基础设施上部署自定义微调模型与 LoRA 适配器
利用高吞吐 Whisper 与 TTS 模型实现高质量语音转录与语音合成
DeepInfra 常见问题解答
如何从 OpenAI 迁移到 DeepInfra？
DeepInfra 的默认速率限制是多少？
DeepInfra 如何进行费用结算？
是否支持部署自定义模型或 LoRA 适配器？
DeepInfra 产品背景及官方链接
DeepInfra 支持电子邮件和客户服务联系方式和退款联系方式等。
DeepInfra 支持电子邮件： feedback@deepinfra.com
更多联系方式，请访问 关于我们页面(https://docs.deepinfra.com)
DeepInfra 公司信息
DeepInfra 公司名称： Deep Infra Inc.
DeepInfra 开发商类型： company
DeepInfra 公司地址： DE, US
更多关于 DeepInfra, 请访问 关于我们页面(https://docs.deepinfra.com)
DeepInfra 定价
DeepInfra 定价链接： https://deepinfra.com/pricing
DeepInfra 推特
DeepInfra 推特链接： https://x.com/DeepInfra
DeepInfra 领英
DeepInfra 领英链接： https://linkedin.com/company/deep-infra
DeepInfra GitHub
DeepInfra GitHub 链接： https://github.com/DeepInfra