LiteLLM

Active

Slogan:Gateway AI untuk tim platform

Diperbarui:-

Media Sosial:

Antarmuka API AI Alat Pengembang AI Agen AI Asisten AI Sumber terbuka Dihosting sendiri API tersedia Gratis Freemium Uji coba gratis Berbasis cloud Untuk pengembang

Buka Situs Web

Kunjungi Situs Web

Apa itu LiteLLM?

LiteLLM adalah gateway AI open-source sekaligus proxy LLM yang memberi seluruh organisasi akses ke setiap model, agen, dan server MCP, lalu memungkinkan Anda melihat, mengontrol, dan mengoptimalkan setiap permintaan. Jalankan di infrastruktur Anda sendiri untuk mendapatkan overhead di bawah milidetik, kunci akses terpadu, dan log audit lengkap. Gateway open-source gratis untuk di-hosting sendiri di produksi; Enterprise menambahkan tata kelola, keamanan, dan dukungan di gateway yang sama.

Cara menggunakan LiteLLM?

1. Tarik image Docker LiteLLM (docker.litellm.ai/berriai/litellm:latest) dan jalankan di port 4000. 2. Arahkan aplikasi Anda ke proxy LiteLLM dan route permintaan ke model apa pun dengan satu set kunci. 3. Atur anggaran dan kontrol akses di konsol LiteLLM untuk membatasi biaya sebelum eksekusi. 4. Tinjau setiap permintaan di log audit dan optimalkan biaya dari dasbor.

LiteLLM Fitur Utama

Akses

Berikan seluruh perusahaan akses ke setiap model, agen, dan server MCP melalui satu gateway dan satu set kunci.

Visibilitas & kontrol

Lihat setiap permintaan dan batasi sebelum dieksekusi. Anggaran dan kontrol akses diatur di konsol LiteLLM.

Optimasi biaya

Lacak penggunaan per penyedia dari satu dasbor dan optimalkan pengeluaran untuk memaksimalkan ROI AI Anda.

Penyebaran mudah

Dengan penyebaran Docker self-hosted dan overhead di bawah milidetik, Anda bisa live di stack Anda dalam satu sore.

Kunci Anda, infrastruktur Anda

Dirancang untuk self-hosted: data dan kunci Anda tidak pernah keluar dari infrastruktur Anda, dan Anda menyimpan log audit lengkap.

LiteLLM Kasus Penggunaan

Memberi seluruh organisasi akses terpadu ke setiap penyedia LLM melalui satu gateway

Melacak dan membatasi pengeluaran AI per tim, proyek, atau pengguna sebelum eksekusi

Menjalankan proxy LLM terisolasi (air-gapped) di lingkungan teratur atau on-premise

Menyeragamkan perutean model, fallback, dan retry di banyak aplikasi

Menyimpan log audit lengkap setiap permintaan AI untuk tinjauan keamanan

LiteLLM Pertanyaan yang sering diajukan

Apakah versi open-source benar-benar gratis untuk produksi?

Ya. Self-host LiteLLM OSS tanpa biaya lisensi, selamanya. Enterprise menambahkan tata kelola, keamanan, dan dukungan di gateway yang sama.

Bagaimana Enterprise dihargai?

Berdasarkan volume permintaan gateway tahunan, arsitektur penyebaran, dan kebutuhan dukungan Anda — tidak per token. Hubungi penjualan untuk penawaran yang disesuaikan.

Bisakah kami menjalankannya secara air-gapped?

Ya — penyebaran air-gapped tersedia di Enterprise Standard dan SCALE.

Apakah Anda melihat data atau lalu lintas kami?

Tidak. LiteLLM di-self-host, sehingga data dan kunci Anda tidak pernah meninggalkan infrastruktur Anda sendiri.

Apakah ada uji coba gratis?

Ya — dapatkan kunci uji coba Enterprise 30 hari instan via email, tanpa kartu kredit. Mulai di halaman Enterprise; penjualan hanya menindaklanjuti jika Anda mau.

Bagaimana cara membeli?

Langsung, atau melalui AWS Marketplace dan reseller resmi jika sesuai dengan proses pengadaan Anda.

LiteLLM Latar Belakang Produk & Tautan Resmi

LiteLLM Email Dukungan & Kontak layanan pelanggan & Kontak Pengembalian Dana dll.

Untuk Kontak selengkapnya, kunjungi halaman tentang kami(https://docs.litellm.ai/docs/)

LiteLLM Info Perusahaan

LiteLLM Nama perusahaan: Berrie AI Incorporated

LiteLLM Jenis Pengembang: company

Lebih lanjut tentang LiteLLM, Silakan kunjungi halaman tentang kami(https://docs.litellm.ai/docs/)

LiteLLM Harga

LiteLLM Tautan Harga: https://litellm.ai/pricing

LiteLLM Twitter

LiteLLM Tautan Twitter: https://x.com/litellm

LiteLLM LinkedIn

LiteLLM Tautan LinkedIn: https://www.linkedin.com/company/90867735

LiteLLM GitHub

LiteLLM Tautan GitHub: https://github.com/BerriAI/litellm

Harga & Paket LiteLLM

Open Source

Gratis

Gratis selamanya

Gateway self-hosted
Tanpa lisensi untuk penggunaan produksi
Akses terpadu ke semua model dan MCP
Dukungan komunitas

Berlangganan & tingkatkan sekarang

Enterprise

contact

Hubungi penjualan

Harga tahunan berdasarkan volume permintaan, arsitektur penyebaran, dan kebutuhan dukungan — tidak per token
Tata kelola, keamanan, dan dukungan di gateway yang sama
Penyebaran air-gapped (Standard dan SCALE)
Kunci uji coba Enterprise 30 hari instan, tanpa kartu kredit
Pembelian langsung, via AWS Marketplace atau reseller resmi

Berlangganan & tingkatkan sekarang

Tag LiteLLM

Sumber terbuka Dihosting sendiri API tersedia Gratis Freemium Uji coba gratis Berbasis cloud Untuk pengembang Untuk perusahaan

Pekerjaan Paling Cocok untuk LiteLLM

Pengembang Perangkat Lunak IT Operasi & Keamanan Peneliti Akademik Eksekutif & Pengambil Keputusan

LiteLLM

Active

Slogan:Gateway AI untuk tim platform

Diperbarui:-

Media Sosial:

Antarmuka API AI Alat Pengembang AI Agen AI Asisten AI Sumber terbuka Dihosting sendiri API tersedia Gratis Freemium Uji coba gratis Berbasis cloud Untuk pengembang

Buka Situs Web

Kunjungi Situs Web

Apa itu LiteLLM?

Cara menggunakan LiteLLM?

LiteLLM Fitur Utama

Akses

Berikan seluruh perusahaan akses ke setiap model, agen, dan server MCP melalui satu gateway dan satu set kunci.

Visibilitas & kontrol

Lihat setiap permintaan dan batasi sebelum dieksekusi. Anggaran dan kontrol akses diatur di konsol LiteLLM.

Optimasi biaya

Lacak penggunaan per penyedia dari satu dasbor dan optimalkan pengeluaran untuk memaksimalkan ROI AI Anda.

Penyebaran mudah

Dengan penyebaran Docker self-hosted dan overhead di bawah milidetik, Anda bisa live di stack Anda dalam satu sore.

Kunci Anda, infrastruktur Anda

Dirancang untuk self-hosted: data dan kunci Anda tidak pernah keluar dari infrastruktur Anda, dan Anda menyimpan log audit lengkap.

LiteLLM Kasus Penggunaan

Memberi seluruh organisasi akses terpadu ke setiap penyedia LLM melalui satu gateway

Melacak dan membatasi pengeluaran AI per tim, proyek, atau pengguna sebelum eksekusi

Menjalankan proxy LLM terisolasi (air-gapped) di lingkungan teratur atau on-premise

Menyeragamkan perutean model, fallback, dan retry di banyak aplikasi

Menyimpan log audit lengkap setiap permintaan AI untuk tinjauan keamanan

LiteLLM Pertanyaan yang sering diajukan

Apakah versi open-source benar-benar gratis untuk produksi?

Ya. Self-host LiteLLM OSS tanpa biaya lisensi, selamanya. Enterprise menambahkan tata kelola, keamanan, dan dukungan di gateway yang sama.

Bagaimana Enterprise dihargai?

Berdasarkan volume permintaan gateway tahunan, arsitektur penyebaran, dan kebutuhan dukungan Anda — tidak per token. Hubungi penjualan untuk penawaran yang disesuaikan.

Bisakah kami menjalankannya secara air-gapped?

Ya — penyebaran air-gapped tersedia di Enterprise Standard dan SCALE.

Apakah Anda melihat data atau lalu lintas kami?

Tidak. LiteLLM di-self-host, sehingga data dan kunci Anda tidak pernah meninggalkan infrastruktur Anda sendiri.

Apakah ada uji coba gratis?

Ya — dapatkan kunci uji coba Enterprise 30 hari instan via email, tanpa kartu kredit. Mulai di halaman Enterprise; penjualan hanya menindaklanjuti jika Anda mau.

Bagaimana cara membeli?

Langsung, atau melalui AWS Marketplace dan reseller resmi jika sesuai dengan proses pengadaan Anda.

LiteLLM Latar Belakang Produk & Tautan Resmi

LiteLLM Email Dukungan & Kontak layanan pelanggan & Kontak Pengembalian Dana dll.

Untuk Kontak selengkapnya, kunjungi halaman tentang kami(https://docs.litellm.ai/docs/)

LiteLLM Info Perusahaan

LiteLLM Nama perusahaan: Berrie AI Incorporated

LiteLLM Jenis Pengembang: company

Lebih lanjut tentang LiteLLM, Silakan kunjungi halaman tentang kami(https://docs.litellm.ai/docs/)

LiteLLM Harga

LiteLLM Tautan Harga: https://litellm.ai/pricing

LiteLLM Twitter

LiteLLM Tautan Twitter: https://x.com/litellm

LiteLLM LinkedIn

LiteLLM Tautan LinkedIn: https://www.linkedin.com/company/90867735

LiteLLM GitHub

LiteLLM Tautan GitHub: https://github.com/BerriAI/litellm

Harga & Paket LiteLLM

Open Source

Gratis

Gratis selamanya

Gateway self-hosted
Tanpa lisensi untuk penggunaan produksi
Akses terpadu ke semua model dan MCP
Dukungan komunitas

Berlangganan & tingkatkan sekarang

Enterprise

contact

Hubungi penjualan

Harga tahunan berdasarkan volume permintaan, arsitektur penyebaran, dan kebutuhan dukungan — tidak per token
Tata kelola, keamanan, dan dukungan di gateway yang sama
Penyebaran air-gapped (Standard dan SCALE)
Kunci uji coba Enterprise 30 hari instan, tanpa kartu kredit
Pembelian langsung, via AWS Marketplace atau reseller resmi

Berlangganan & tingkatkan sekarang

Tag LiteLLM

Sumber terbuka Dihosting sendiri API tersedia Gratis Freemium Uji coba gratis Berbasis cloud Untuk pengembang Untuk perusahaan

Pekerjaan Paling Cocok untuk LiteLLM

Pengembang Perangkat Lunak IT Operasi & Keamanan Peneliti Akademik Eksekutif & Pengambil Keputusan