DeepInfra

Active

สโลแกน:คลาวด์ประมวลผล AI พร้อม API ที่เข้ากันได้กับ OpenAI และโมเดลโอเพนซอร์ส

อัปเดตแล้ว:22 ตุลาคม 2569

Domain Rating:

โซเชียลมีเดีย:

อินเทอร์เฟซ API ของ AI เครื่องมือสำหรับนักพัฒนา AI API พร้อมใช้งาน บนคลาวด์สำหรับนักพัฒนา สำหรับสตาร์ทอัพ สำหรับองค์กร โอเพนซอร์ส พร้อมสำหรับ AI Agent เรียลไทม์

เปิดเว็บไซต์

เยี่ยมชมเว็บไซต์

อะไรคือ DeepInfra?

DeepInfra คือคลาวด์สำหรับรันการประมวลผล (Inference) ปัญญาประดิษฐ์ขนาดใหญ่ ออกแบบมาเพื่อรันโมเดลแมชชีนเลิร์นนิงโอเพนซอร์สผ่าน API ที่เข้ากันได้กับ OpenAI รองรับ LLMs, คอมพิวเตอร์วิทัศน์, เอ็มเบดดิง, เสียง และโมเดลมัลติโมดัล พร้อมระบบคิดค่าบริการตามโทเคนและการเช่า GPU สำหรับองค์กร

วิธีใช้ DeepInfra?

1. เข้าสู่ระบบบัญชี DeepInfra และสร้างคีย์ API จากแดชบอร์ด 2. ตั้งค่าตัวแปรสภาพแวดล้อม: export DEEPINFRA_API_KEY=<คีย์ของคุณ> 3. กำหนด base URL ของ OpenAI SDK ให้เป็น https://api.deepinfra.com/v1/openai แล้วเริ่มส่งคำขอประมวลผล

DeepInfra คุณลักษณะเด่น

API ที่เข้ากันได้กับ OpenAI

สามารถแทนที่ OpenAI SDK ได้ทันทีที่ https://api.deepinfra.com/v1/openai โดยไม่ต้องแก้โค้ดโปรแกรมเดิม

แคตตาล็อกโมเดลมากกว่า 100 โมเดล

โฮสต์และใช้งานโมเดลชั้นนำกว่า 100 โมเดล ทั้งงานสร้างข้อความ, รูปภาพ, เอ็มเบดดิง, เสียง และวิดีโอ

คิดค่าบริการตามโทเคนและเวลาประมวลผล

คิดเงินตามจำนวนโทเคนหรือเวลาประมวลผลจริงอย่างแม่นยำ ไม่ต้องจ่ายค่าเริ่มต้นหรือค่าเครื่อง GPU ที่ไม่ได้ใช้งาน

การติดตั้งโมเดลส่วนตัวและเช่า GPU

รันโมเดลที่ปรับแต่งเองหรือ LoRA adapter หรือเช่าอินสแตนซ์เฉพาะ NVIDIA A100, H100, H200, B200 และ B300

รองรับการทำงานพร้อมกันสูงและแคชพรอมต์

รองรับคำขอพร้อมกัน 200 รายการต่อโมเดลเป็นค่าเริ่มต้น พร้อมระบบ Prompt Caching ช่วยลดความหน่วงและประหยัดค่าใช้จ่าย

DeepInfra สถานการณ์การใช้งาน

เชื่อมต่อโอเพนซอร์ส LLMs เข้ากับระบบการทำงานจริงด้วยไลบรารีมาตรฐานของ OpenAI

สร้างระบบ RAG และค้นหาความหมายด้วยเอนด์พอยต์การทำเอ็มเบดดิงและจัดอันดับใหม่ที่คุ้มค่า

ติดตั้งโมเดลที่ปรับแต่งเองและ LoRA adapter บนโครงสร้างพื้นฐาน GPU เฉพาะที่ขยายขนาดได้อัตโนมัติ

ถอดความเสียงและสังเคราะห์เสียงพูดด้วยโมเดล Whisper และ TTS ประสิทธิภาพสูง

DeepInfra คำถามที่พบบ่อย

จะเปลี่ยนจาก OpenAI มาใช้ DeepInfra ได้อย่างไร?

DeepInfra มีเอนด์พอยต์ที่เข้ากันได้กับ OpenAI ที่ https://api.deepinfra.com/v1/openai เพียงเปลี่ยนค่า base_url และใส่ API key ของ DeepInfra ใน SDK ของ OpenAI ก็ใช้งานต่อได้ทันที

ขีดจำกัดคำขอเริ่มต้นใน DeepInfra คือเท่าใด?

ทุกบัญชีรองรับ 200 คำขอพร้อมกันต่อโมเดลเป็นค่าเริ่มต้น การเรียกใช้งานหลายโมเดลพร้อมกันจะขยายขีดจำกัดรวมตามสัดส่วน

การเรียกเก็บเงินของ DeepInfra ทำงานอย่างไร?

DeepInfra ใช้รูปแบบจ่ายตามการใช้งานจริง โมเดลภาษาจะคิดตามโทเคน (มีส่วนลดแคช) ส่วนโมเดลอื่นๆ คิดตามเวลาประมวลผลจริง ไม่มีค่าใช้จ่ายสำหรับเครื่องที่ไม่ได้ทำงาน