LiteLLM
Active
의 정의 LiteLLM?
LiteLLM은 오픈소스 AI 게이트웨이이자 LLM 프록시로, 조직 전체가 다양한 모델, 에이전트, MCP 서버에 접근하고 모든 요청을 확인·제어·최적화할 수 있게 해줍니다. 자신의 인프라에 배포하면 밀리초 미만의 오버헤드, 통합된 액세스 키, 완전한 감사 로그를 얻을 수 있습니다. 오픈소스 게이트웨이는 프로덕션에서 영구적으로 무료로 셀프 호스팅할 수 있으며, 엔터프라이즈 버전은 동일한 게이트웨이 위에 거버넌스, 보안, 지원을 추가합니다.
사용 방법 LiteLLM?
1. LiteLLM Docker 이미지(docker.litellm.ai/berriai/litellm:latest)를 받아 포트 4000에서 실행합니다. 2. 앱을 LiteLLM 프록시로 향하게 하고, 하나의 키 세트로 모든 모델에 요청을 라우팅합니다. 3. LiteLLM 콘솔에서 예산과 접근 제어를 설정해 실행 전에 비용을 제한합니다. 4. 감사 로그에서 모든 요청을 확인하고 대시보드에서 비용을 최적화합니다.
LiteLLM 핵심 기능
01
접근
하나의 게이트웨이와 하나의 키 세트로 전사가 모든 모델, 에이전트, MCP 서버에 접근할 수 있습니다.
02
가시성 및 제어
모든 요청을 확인하고 실행 전에 제한합니다. 예산과 접근 제어는 LiteLLM 콘솔에서 설정합니다.
03
비용 최적화
하나의 대시보드에서 공급자별 사용량을 추적하고 지출을 최적화해 AI 투자 수익을 극대화합니다.
04
간편한 배포
셀프 호스트 Docker 배포와 밀리초 미만 오버헤드로, 단半天 만에 자체 기술 스택에 올릴 수 있습니다.
05
키와 인프라는 당신의 것
본래 셀프 호스트 방식입니다. 데이터와 키는 절대 자체 인프라를 벗어나지 않으며 완전한 감사 로그를 유지합니다.
LiteLLM 사용 사례
하나의 게이트웨이로 전 조직이 모든 LLM 공급자에 통합 접근하기
팀·프로젝트·사용자별로 AI 지출을 추적하고 실행 전에 제한하기
규제 대상 또는 온프레미스 환경에서 에어갭 LLM 프록시 운영하기
다수의 애플리케이션에서 모델 라우팅·폴백·재시도를 통일하기
보안 검토를 위해 모든 AI 요청의 완전한 감사 로그 남기기
LiteLLM 자주 묻는 질문
오픈소스 버전은 정말 프로덕션에서 무료인가요?
엔터프라이즈는 어떻게 가격이 정해지나요?
에어갭으로 운영할 수 있나요?
우리 데이터나 트래픽을 보시나요?
무료 평가판이 있나요?
어떻게 구매하나요?
LiteLLM 제품 배경 및 공식 링크
LiteLLM 고객 지원 이메일 및 고객 서비스 연락처, 환불 연락처 등
더 자세한 문의는 다음을 방문하세요: 소개 페이지(https://docs.litellm.ai/docs/)
LiteLLM 회사 정보
LiteLLM 회사 이름: Berrie AI Incorporated
LiteLLM 개발자 유형: company
자세히 알아보기 LiteLLM, 방문해 주세요: 소개 페이지(https://docs.litellm.ai/docs/)
LiteLLM 요금제
LiteLLM 요금제 링크: https://litellm.ai/pricing
LiteLLM Twitter
LiteLLM Twitter 링크: https://x.com/litellm
LiteLLM LinkedIn
LiteLLM LinkedIn 링크: https://www.linkedin.com/company/90867735
LiteLLM GitHub
LiteLLM GitHub 링크: https://github.com/BerriAI/litellm
LiteLLM 요금제 및 가격
엔터프라이즈
contact영업 문의
- 연간 게이트웨이 요청량·배포 아키텍처·지원 요구사항 기반 견적, 토큰 단위 과금 절대 없음
- 동일한 게이트웨이 위에 거버넌스·보안·지원 추가
- 에어갭 배포 지원(Standard 및 SCALE)
- 즉시 발급되는 30일 평가판 키, 신용카드 불필요
- 직접 구매, 또는 AWS Marketplace 및 공인 리셀러 경유