LiteLLM

Active

Слоган:AI-шлюз для платформних команд

Оновлено:-

Соціальні мережі:

Інтерфейс AI API Інструменти розробника зі штучним інтелектом AI-агент AI-асистент Відкритий код Самохостинг API доступний Безкоштовно Фріміум Безкоштовна пробна версія Хмарний Для розробників

Відкрити вебсайт

Перейти на вебсайт

Що таке LiteLLM?

LiteLLM — це відкритий AI-шлюз і LLM-проксі, що надає всій організації доступ до кожної моделі, агента та сервера MCP, а також дає змогу бачити, контролювати й оптимізувати кожен запит. Розгорніть його у власній інфраструктурі, щоб отримати затримку менше мілісекунди, єдині ключі доступу та повний журнал аудиту. Відкритий шлюз безкоштовний для самостійного розміщення у продакшені; Enterprise додає на той самий шлюз управління, безпеку та підтримку.

Як користуватися LiteLLM?

1. Завантажте Docker-образ LiteLLM (docker.litellm.ai/berriai/litellm:latest) і запустіть його на порту 4000. 2. Спрямуйте застосунок на проксі LiteLLM і маршрутизуйте запити до будь-якої моделі за допомогою одного набору ключів. 3. Встановіть бюджети та контроль доступу у консолі LiteLLM, щоб обмежувати витрати до виконання. 4. Переглядайте кожен запит у журналі аудиту та оптимізуйте витрати на дашборді.

LiteLLM Основні функції

Доступ

Надайте всій компанії доступ до кожної моделі, агента та сервера MCP через один шлюз і один набір ключів.

Видимість і контроль

Бачте кожен запит і обмежуйте його до виконання. Бюджети та контроль доступу встановлюються у консолі LiteLLM.

Оптимізація витрат

Відстежуйте використання за постачальниками з одного дашборда й оптимізуйте витрати, максимізуючи ROI вашого ШІ.

Просте розгортання

Із самостійним Docker-розгортанням і затримкою менше мілісекунди ви запускаєтесь за один день.

Ваші ключі, ваша інфраструктура

За своєю суттю self-hosted: ваші дані та ключі ніколи не залишають вашу інфраструктуру, і ви зберігаєте повний журнал аудиту.

LiteLLM Сценарії використання

Надати всій організації єдиний доступ до кожного постачальника LLM через один шлюз

Відстежувати й обмежувати витрати на ШІ за командою, проєктом чи користувачем до виконання

Запускати ізольований (air-gapped) LLM-проксі у регульованих або локальних середовищах

Уніфікувати маршрутизацію моделей, відкати та повтори між багатьма застосунками

Зберігати повний журнал аудиту кожного ШІ-запиту для перевірок безпеки

LiteLLM Часті запитання

Чи справді версія open-source безкоштовна для продакшену?

Так. Розміщуйте LiteLLM OSS самостійно без ліцензійних платежів, назавжди. Enterprise додає на той самий шлюз управління, безпеку та підтримку.

Як формується ціна Enterprise?

За вашим річним обсягом запитів шлюза, архітектурою розгортання та потребами підтримки — ніколи за токен. Зверніться у відділ продажів за індивідуальною пропозицією.

Чи можна запустити у режимі air-gapped?

Так — розгортання air-gapped доступне як у Enterprise Standard, так і в SCALE.

Чи бачите ви наші дані або трафік?

Ні. LiteLLM розміщується самостійно, тому ваші дані та ключі ніколи не залишають вашу інфраструктуру.

Чи є безкоштовна пробна версія?

Так — отримайте миттєвий 30-денний пробний ключ Enterprise електронною поштою, без кредитної картки. Запустіть його на сторінці Enterprise; відділ продажів зв'яжеться лише за бажанням.

Як ми купуємо?

Напряму або через AWS Marketplace і авторизованих реселерів, якщо це підходить вашому процесу закупівель.

LiteLLM Основна інформація та офіційні посилання

LiteLLM Електронна адреса підтримки, контакти служби підтримки клієнтів, повернення коштів тощо.

Більше контактів на сторінці сторінка про нас(https://docs.litellm.ai/docs/)

LiteLLM Інформація про компанію

LiteLLM Назва компанії: Berrie AI Incorporated

LiteLLM Тип розробника: company

Детальніше про LiteLLM, Будь ласка, відвідайте сторінку сторінка про нас(https://docs.litellm.ai/docs/)

LiteLLM Ціни

LiteLLM Посилання на ціни: https://litellm.ai/pricing

LiteLLM Twitter

LiteLLM Посилання на Twitter: https://x.com/litellm

LiteLLM LinkedIn

LiteLLM Посилання на LinkedIn: https://www.linkedin.com/company/90867735

LiteLLM GitHub

LiteLLM Посилання на GitHub: https://github.com/BerriAI/litellm

Ціни та плани LiteLLM

Open Source

Безкоштовно

Безкоштовно назавжди

Самостійно розміщуваний шлюз
Без ліцензійних платежів для продакшену
Єдиний доступ до всіх моделей і MCP
Підтримка спільноти

Підписатися та оновити зараз

Enterprise

contact

Зв'язатися з відділом продажів

Річна ціна за обсягом запитів, архітектурою розгортання та потребами підтримки — ніколи за токен
Управління, безпека та підтримка на тому самому шлюзі
Розгортання air-gapped (Standard і SCALE)
Миттєвий 30-денний пробний ключ Enterprise, без кредитної картки
Купівля напряму, через AWS Marketplace або авторизованих реселерів

Підписатися та оновити зараз

Теги LiteLLM

Відкритий код Самохостинг API доступний Безкоштовно Фріміум Безкоштовна пробна версія Хмарний Для розробників Для підприємств

Найкраще підходящі професії для LiteLLM

Розробники програмного забезпечення IT-операції та безпека Академічні дослідники Керівники та особи, що приймають рішення

LiteLLM

Active

Слоган:AI-шлюз для платформних команд

Оновлено:-

Соціальні мережі:

Відкрити вебсайт

Перейти на вебсайт

Що таке LiteLLM?

Як користуватися LiteLLM?

LiteLLM Основні функції

Доступ

Надайте всій компанії доступ до кожної моделі, агента та сервера MCP через один шлюз і один набір ключів.

Видимість і контроль

Бачте кожен запит і обмежуйте його до виконання. Бюджети та контроль доступу встановлюються у консолі LiteLLM.

Оптимізація витрат

Просте розгортання

Із самостійним Docker-розгортанням і затримкою менше мілісекунди ви запускаєтесь за один день.

Ваші ключі, ваша інфраструктура

LiteLLM Сценарії використання

Надати всій організації єдиний доступ до кожного постачальника LLM через один шлюз

Відстежувати й обмежувати витрати на ШІ за командою, проєктом чи користувачем до виконання

Запускати ізольований (air-gapped) LLM-проксі у регульованих або локальних середовищах

Уніфікувати маршрутизацію моделей, відкати та повтори між багатьма застосунками

Зберігати повний журнал аудиту кожного ШІ-запиту для перевірок безпеки

LiteLLM Часті запитання

Чи справді версія open-source безкоштовна для продакшену?

Як формується ціна Enterprise?

Чи можна запустити у режимі air-gapped?

Так — розгортання air-gapped доступне як у Enterprise Standard, так і в SCALE.

Чи бачите ви наші дані або трафік?

Ні. LiteLLM розміщується самостійно, тому ваші дані та ключі ніколи не залишають вашу інфраструктуру.

Чи є безкоштовна пробна версія?

Як ми купуємо?

Напряму або через AWS Marketplace і авторизованих реселерів, якщо це підходить вашому процесу закупівель.

LiteLLM Основна інформація та офіційні посилання

LiteLLM Електронна адреса підтримки, контакти служби підтримки клієнтів, повернення коштів тощо.

Більше контактів на сторінці сторінка про нас(https://docs.litellm.ai/docs/)

LiteLLM Інформація про компанію

LiteLLM Назва компанії: Berrie AI Incorporated

LiteLLM Тип розробника: company

Детальніше про LiteLLM, Будь ласка, відвідайте сторінку сторінка про нас(https://docs.litellm.ai/docs/)

LiteLLM Ціни

LiteLLM Посилання на ціни: https://litellm.ai/pricing

LiteLLM Twitter

LiteLLM Посилання на Twitter: https://x.com/litellm

LiteLLM LinkedIn

LiteLLM Посилання на LinkedIn: https://www.linkedin.com/company/90867735

LiteLLM GitHub

LiteLLM Посилання на GitHub: https://github.com/BerriAI/litellm

Ціни та плани LiteLLM

Open Source

Безкоштовно

Безкоштовно назавжди

Самостійно розміщуваний шлюз
Без ліцензійних платежів для продакшену
Єдиний доступ до всіх моделей і MCP
Підтримка спільноти

Підписатися та оновити зараз

Enterprise

contact

Зв'язатися з відділом продажів

Річна ціна за обсягом запитів, архітектурою розгортання та потребами підтримки — ніколи за токен
Управління, безпека та підтримка на тому самому шлюзі
Розгортання air-gapped (Standard і SCALE)
Миттєвий 30-денний пробний ключ Enterprise, без кредитної картки
Купівля напряму, через AWS Marketplace або авторизованих реселерів

Підписатися та оновити зараз