LiteLLM

Active

Слоган:AI-шлюз для платформенных команд

Обновлено:-

Социальные сети:

Интерфейс AI API Инструменты разработчика ИИ AI-агент ИИ-ассистент Открытый код Самохостинг API доступен Бесплатно Фримиум Бесплатная пробная версия Облачный Для разработчиков

Открыть сайт

Посетить сайт

Что такое LiteLLM?

LiteLLM — это открытый AI-шлюз и LLM-прокси, который даёт всей организации доступ к любой модели, агенту и серверу MCP, а также позволяет видеть, контролировать и оптимизировать каждый запрос. Разверните его на собственной инфраструктуре, чтобы получить задержку менее миллисекунды, единые ключи доступа и полный журнал аудита. Открытый шлюз бесплатен для самостоятельного размещения в продакшене; Enterprise добавляет на тот же шлюз управление, безопасность и поддержку.

Как использовать LiteLLM?

1. Загрузите Docker-образ LiteLLM (docker.litellm.ai/berriai/litellm:latest) и запустите его на порту 4000. 2. Направьте приложение на прокси LiteLLM и маршрутизируйте запросы к любой модели с помощью одного набора ключей. 3. Задайте бюджеты и контроль доступа в консоли LiteLLM, чтобы ограничивать расходы до выполнения. 4. Просматривайте каждый запрос в журнале аудита и оптимизируйте затраты на дашборде.

LiteLLM Основные функции

Доступ

Дайте всей компании доступ к любой модели, агенту и серверу MCP через один шлюз и один набор ключей.

Видимость и контроль

Видьте каждый запрос и ограничивайте его до выполнения. Бюджеты и контроль доступа задаются в консоли LiteLLM.

Оптимизация затрат

Отслеживайте использование по поставщикам из единого дашборда и оптимизируйте расходы, максимизируя ROI вашей ИИ.

Простое развёртывание

С самостоятельным Docker-развёртыванием и задержкой менее миллисекунды вы запускаетесь за один день.

Ваши ключи, ваша инфраструктура

По своей природе self-hosted: ваши данные и ключи никогда не покидают вашу инфраструктуру, и вы ведёте полный журнал аудита.

LiteLLM Сценарии использования

Дать всей организации единый доступ к любому поставщику LLM через один шлюз

Отслеживать и ограничивать ИИ-расходы по команде, проекту или пользователю до выполнения

Запускать изолированный (air-gapped) LLM-прокси в регулируемых или локальных средах

Унифицировать маршрутизацию моделей, откаты и повторы между множеством приложений

Хранить полный журнал аудита каждого ИИ-запроса для проверок безопасности

LiteLLM Часто задаваемые вопросы

Версия open-source действительно бесплатна для продакшена?

Да. Размещайте LiteLLM OSS самостоятельно без лицензионных платежей, навсегда. Enterprise добавляет на тот же шлюз управление, безопасность и поддержку.

Как формируется цена Enterprise?

По вашему годовому объёму запросов шлюза, архитектуре развёртывания и потребностям в поддержке — никогда по токенам. Обратитесь в отдел продаж за индивидуальным предложением.

Можно ли запустить в режиме air-gapped?

Да — развёртывание air-gapped доступно как в Enterprise Standard, так и в SCALE.

Видите ли вы наши данные или трафик?

Нет. LiteLLM размещается самостоятельно, поэтому ваши данные и ключи никогда не покидают вашу инфраструктуру.

Есть ли бесплатная пробная версия?

Да — получите мгновенный 30-дневный пробный ключ Enterprise по электронной почте, без кредитной карты. Запустите его на странице Enterprise; отдел продаж свяжется только если вы захотите.

Как мы покупаем?

Напрямую или через AWS Marketplace и авторизованных реселлеров, если это подходит вашему процессу закупок.

LiteLLM История продукта и официальные ссылки

LiteLLM Email поддержки, контакты службы поддержки, контакты для возврата средств и т. д.

Для получения дополнительных контактов посетите страницу страница о нас(https://docs.litellm.ai/docs/)

LiteLLM Информация о компании

LiteLLM Название компании: Berrie AI Incorporated

LiteLLM Тип разработчика: company

Подробнее о LiteLLM, Пожалуйста, посетите страница о нас(https://docs.litellm.ai/docs/)

LiteLLM Цены

LiteLLM Ссылка на цены: https://litellm.ai/pricing

LiteLLM Twitter

LiteLLM Ссылка на Twitter: https://x.com/litellm

LiteLLM LinkedIn

LiteLLM Ссылка на LinkedIn: https://www.linkedin.com/company/90867735

LiteLLM GitHub

LiteLLM Ссылка на GitHub: https://github.com/BerriAI/litellm

Цены и тарифы LiteLLM

Open Source

Бесплатно

Бесплатно навсегда

Самостоятельно размещаемый шлюз
Без лицензионных платежей для продакшена
Единый доступ ко всем моделям и MCP
Поддержка сообщества

Подписаться и обновиться сейчас

Enterprise

contact

Связаться с отделом продаж

Годовая цена по объёму запросов, архитектуре развёртывания и потребностям в поддержке — никогда по токенам
Управление, безопасность и поддержка на том же шлюзе
Развёртывание air-gapped (Standard и SCALE)
Мгновенный 30-дневный пробный ключ Enterprise, без кредитной карты
Покупка напрямую, через AWS Marketplace или авторизованных реселлеров

Подписаться и обновиться сейчас

Теги LiteLLM

Открытый код Самохостинг API доступен Бесплатно Фримиум Бесплатная пробная версия Облачный Для разработчиков Для предприятий

Наиболее подходящие профессии для LiteLLM

Разработчики ПО ИТ-операции и безопасность Академические исследователи Руководители и лица, принимающие решения

LiteLLM

Active

Слоган:AI-шлюз для платформенных команд

Обновлено:-

Социальные сети:

Открыть сайт

Посетить сайт

Что такое LiteLLM?

Как использовать LiteLLM?

LiteLLM Основные функции

Доступ

Дайте всей компании доступ к любой модели, агенту и серверу MCP через один шлюз и один набор ключей.

Видимость и контроль

Видьте каждый запрос и ограничивайте его до выполнения. Бюджеты и контроль доступа задаются в консоли LiteLLM.

Оптимизация затрат

Простое развёртывание

С самостоятельным Docker-развёртыванием и задержкой менее миллисекунды вы запускаетесь за один день.

Ваши ключи, ваша инфраструктура

LiteLLM Сценарии использования

Дать всей организации единый доступ к любому поставщику LLM через один шлюз

Отслеживать и ограничивать ИИ-расходы по команде, проекту или пользователю до выполнения

Запускать изолированный (air-gapped) LLM-прокси в регулируемых или локальных средах

Унифицировать маршрутизацию моделей, откаты и повторы между множеством приложений

Хранить полный журнал аудита каждого ИИ-запроса для проверок безопасности

LiteLLM Часто задаваемые вопросы

Версия open-source действительно бесплатна для продакшена?

Как формируется цена Enterprise?

Можно ли запустить в режиме air-gapped?

Да — развёртывание air-gapped доступно как в Enterprise Standard, так и в SCALE.

Видите ли вы наши данные или трафик?

Нет. LiteLLM размещается самостоятельно, поэтому ваши данные и ключи никогда не покидают вашу инфраструктуру.

Есть ли бесплатная пробная версия?

Как мы покупаем?

Напрямую или через AWS Marketplace и авторизованных реселлеров, если это подходит вашему процессу закупок.

LiteLLM История продукта и официальные ссылки

LiteLLM Email поддержки, контакты службы поддержки, контакты для возврата средств и т. д.

Для получения дополнительных контактов посетите страницу страница о нас(https://docs.litellm.ai/docs/)

LiteLLM Информация о компании

LiteLLM Название компании: Berrie AI Incorporated

LiteLLM Тип разработчика: company

Подробнее о LiteLLM, Пожалуйста, посетите страница о нас(https://docs.litellm.ai/docs/)

LiteLLM Цены

LiteLLM Ссылка на цены: https://litellm.ai/pricing

LiteLLM Twitter

LiteLLM Ссылка на Twitter: https://x.com/litellm

LiteLLM LinkedIn

LiteLLM Ссылка на LinkedIn: https://www.linkedin.com/company/90867735

LiteLLM GitHub

LiteLLM Ссылка на GitHub: https://github.com/BerriAI/litellm

Цены и тарифы LiteLLM

Open Source

Бесплатно

Бесплатно навсегда

Самостоятельно размещаемый шлюз
Без лицензионных платежей для продакшена
Единый доступ ко всем моделям и MCP
Поддержка сообщества

Подписаться и обновиться сейчас

Enterprise

contact

Связаться с отделом продаж

Годовая цена по объёму запросов, архитектуре развёртывания и потребностям в поддержке — никогда по токенам
Управление, безопасность и поддержка на том же шлюзе
Развёртывание air-gapped (Standard и SCALE)
Мгновенный 30-дневный пробный ключ Enterprise, без кредитной карты
Покупка напрямую, через AWS Marketplace или авторизованных реселлеров

Подписаться и обновиться сейчас