LiteLLM

LiteLLM एक ओपन-सोर्स AI गेटवे और LLM प्रॉक्सी है जो आपके पूरे संगठन को हर मॉडल, एजेंट और MCP सर्वर तक पहुँच देता है, और फिर आपको हर अनुरोध को देखने, नियंत्रित करने और अनुकूलित करने देता है। इसे अपने स्वयं के इन्फ्रास्ट्रक्चर पर चलाएँ और सब-मिलीसेकंड ओवरहेड, एकीकृत एक्सेस कुंजियाँ और पूरा ऑडिट लॉग प्राप्त करें। ओपन-सोर्स गेटवे प्रोडक्शन में सेल्फ-होस्टिंग के लिए मुफ़्त है; Enterprise उसी गेटवे पर गवर्नेंस, सुरक्षा और समर्थन जोड़ता है।