ManagePrompt
Active什么是 ManagePrompt?
ManagePrompt 是一款本地 LLM 调用调试器,包含 Go CLI 与 npm 包。它会捕获请求与响应体、Token 用量、成本估算和延迟,并在本地 Web UI 中展示。数据按项目存储在 SQLite 数据库中,支持 WebSocket 实时更新。
如何使用 ManagePrompt?
通过 Homebrew 或 Go 安装 CLI,运行 manageprompt start(默认 http://localhost:54321),然后安装 manageprompt npm 包。对 Vercel AI SDK 使用 devToolsMiddleware 包装模型,其他 SDK 可使用 capture()。
ManagePrompt 核心特点
01
完整捕获
记录每次 LLM 调用的请求与响应体,并提供可视化流程。
02
Token 追踪
追踪每次调用的输入、输出、缓存读取与缓存写入 Token。
03
成本估算
基于 models.dev 定价数据实时计算调用成本。
04
流式支持
自动捕获流式与非流式 LLM API 调用。
05
实时 UI
本地 Web UI 通过 WebSocket 在调用发生时实时更新。
06
按项目隔离
每个项目目录使用独立 SQLite 数据库存储,零配置。
ManagePrompt 使用案例
在本地应用开发中调试 LLM API 调用
测试 AI SDK 集成时查看 Token 用量与成本
在本地 Web UI 中监控流式与非流式请求
ManagePrompt 常见问题解答
支持哪些 LLM 提供商?
每次调用会捕获哪些数据?
捕获的数据存储在哪里?
ManagePrompt 产品背景及官方链接
ManagePrompt 支持电子邮件和客户服务联系方式和退款联系方式等。
ManagePrompt 支持电子邮件: contact@techulus.com
更多联系方式,请访问 关于我们页面(https://github.com/techulus/manage-prompt#readme)
ManagePrompt GitHub
ManagePrompt GitHub 链接: https://github.com/techulus/manage-prompt