ManagePrompt
Active什麼是 ManagePrompt?
ManagePrompt 是一款本機 LLM 呼叫除錯工具,包含 Go CLI 與 npm 套件。它會擷取請求與回應內容、Token 用量、成本估算與延遲,並在本機 Web UI 中顯示。資料依專案儲存在 SQLite 資料庫,支援 WebSocket 即時更新。
如何使用 ManagePrompt?
透過 Homebrew 或 Go 安裝 CLI,執行 manageprompt start(預設 http://localhost:54321),再安裝 manageprompt npm 套件。對 Vercel AI SDK 使用 devToolsMiddleware 包裝模型,其他 SDK 可使用 capture()。
ManagePrompt 核心特點
01
完整擷取
記錄每次 LLM 呼叫的請求與回應內容,並提供視覺化流程。
02
Token 追蹤
追蹤每次呼叫的輸入、輸出、快取讀取與快取寫入 Token。
03
成本估算
依據 models.dev 定價資料即時計算呼叫成本。
04
串流支援
自動擷取串流與非串流 LLM API 呼叫。
05
即時 UI
本機 Web UI 透過 WebSocket 在呼叫發生時即時更新。
06
依專案隔離
每個專案目錄使用獨立 SQLite 資料庫儲存,零設定。
ManagePrompt 使用案例
在本機應用開發中除錯 LLM API 呼叫
測試 AI SDK 整合時查看 Token 用量與成本
在本機 Web UI 中監控串流與非串流請求
ManagePrompt 常見問題解答
支援哪些 LLM 供應商?
每次呼叫會擷取哪些資料?
擷取的資料儲存在哪裡?
ManagePrompt 產品背景及官方連結
ManagePrompt 支援電子郵件和客戶服務聯絡資訊和退款聯絡方式等。
ManagePrompt 支援電子郵件: contact@techulus.com
更多聯絡方式,請訪問 關於我們頁面(https://github.com/techulus/manage-prompt#readme)
ManagePrompt GitHub
ManagePrompt GitHub 連結: https://github.com/techulus/manage-prompt