क्या है ManagePrompt?
ManagePrompt Go CLI और npm पैकेज के साथ एक लोकल LLM कॉल डिबगर है। यह अनुरोध/प्रतिक्रिया बॉडी, टोकन उपयोग, लागत अनुमान और विलंबता कैप्चर करके स्थानीय वेब UI में दिखाता है। डेटा प्रति प्रोजेक्ट SQLite में संग्रहीत होता है, WebSocket से लाइव अपडेट के साथ।
कैसे उपयोग करें ManagePrompt?
CLI को Homebrew या Go से इंस्टॉल करें, manageprompt start चलाएँ (डिफ़ॉल्ट http://localhost:54321), फिर manageprompt npm पैकेज जोड़ें। Vercel AI SDK के लिए मॉडल को devToolsMiddleware से लपेटें, अन्य SDK के लिए capture() उपयोग करें।
ManagePrompt मुख्य विशेषताएं
01
पूर्ण कैप्चर
प्रत्येक LLM कॉल के लिए अनुरोध और प्रतिक्रिया बॉडी को दृश्य फ्लो के साथ रिकॉर्ड करता है।
02
टोकन ट्रैकिंग
प्रत्येक कॉल के लिए इनपुट, आउटपुट, कैश रीड और कैश राइट टोकन ट्रैक करता है।
03
लागत अनुमान
models.dev मूल्य डेटा से रीयल-टाइम लागत की गणना करता है।
04
स्ट्रीमिंग समर्थन
स्ट्रीमिंग और नॉन-स्ट्रीमिंग LLM API कॉल स्वचालित रूप से कैप्चर करता है।
05
रीयल-टाइम UI
स्थानीय वेब UI में WebSocket के माध्यम से लाइव अपडेट।
06
प्रोजेक्ट स्कोप
प्रति प्रोजेक्ट डायरेक्टरी SQLite डेटाबेस, बिना कॉन्फ़िगरेशन।
ManagePrompt उपयोग के मामले
स्थानीय ऐप विकास में LLM API कॉल डिबग करना
AI SDK इंटीग्रेशन परीक्षण में टोकन उपयोग और लागत जाँचना
स्थानीय वेब UI में स्ट्रीमिंग और नॉन-स्ट्रीमिंग अनुरोध मॉनिटर करना
ManagePrompt Frequently Asked Questions
कौन से LLM प्रदाता समर्थित हैं?
प्रत्येक कॉल के लिए कौन सा डेटा कैप्चर होता है?
कैप्चर किया गया डेटा कहाँ संग्रहीत होता है?
ManagePrompt उत्पाद पृष्ठभूमि और आधिकारिक लिंक
ManagePrompt सहायता ईमेल और ग्राहक सेवा संपर्क और धनवापसी संपर्क आदि।
ManagePrompt सहायता ईमेल: contact@techulus.com
अधिक संपर्क, देखें हमारे बारे में पृष्ठ(https://github.com/techulus/manage-prompt#readme)
ManagePrompt गिटहब
ManagePrompt गिटहब लिंक: https://github.com/techulus/manage-prompt
ManagePrompt मूल्य निर्धारण और योजनाएं
ओपन सोर्स
मुफ़्तमुफ़्त
- MIT लाइसेंस
- लोकल CLI सर्वर और वेब UI
- AI SDK और capture() के लिए npm पैकेज