ManagePrompt

Active

Слоган:Фіксуйте кожен виклик LLM API під час розробки

Оновлено:-

Соціальні мережі:

Інструменти розробника зі штучним інтелектом Програмування та розробка Інструменти інженерії підказок Open Source Free Self-Hosted For Developers Zero Setup

Відкрити вебсайт

Перейти на вебсайт

Просувати цей продукт|Оновити цей продукт

Що таке ManagePrompt?

ManagePrompt — локальний відладник викликів LLM з CLI на Go та npm-пакетом. Він фіксує тіла запитів і відповідей, використання токенів, оцінку вартості та затримку, показуючи все в локальному веб-інтерфейсі. Дані зберігаються в SQLite за проектами з оновленнями в реальному часі через WebSocket.

Як користуватися ManagePrompt?

Встановіть CLI через Homebrew або Go, запустіть manageprompt start (за замовчуванням http://localhost:54321), потім додайте npm-пакет manageprompt. Обгорніть моделі в devToolsMiddleware для Vercel AI SDK або використовуйте capture() для інших SDK.

ManagePrompt Основні функції

Повне захоплення

Записує тіла запитів і відповідей із візуальним потоком для кожного виклику LLM.

Відстеження токенів

Відстежує вхідні, вихідні, читання та запис кешу токенів для кожного виклику.

Оцінка вартості

Розраховує вартість у реальному часі за цінами models.dev.

Підтримка стрімінгу

Автоматично фіксує потокові та непотокові виклики LLM API.

Інтерфейс у реальному часі

Живі оновлення через WebSocket у локальному веб-інтерфейсі.

За проектом

База SQLite для кожної директорії проєкту, без налаштувань.

ManagePrompt Сценарії використання

Відлагодження викликів LLM API під час локальної розробки

Перевірка використання токенів і вартості під час тестування інтеграцій AI SDK

Моніторинг потокових і непотокових запитів у локальному веб-інтерфейсі

ManagePrompt Frequently Asked Questions

Які провайдери LLM підтримуються?

Працює з будь-яким провайдером AI SDK, зокрема OpenAI, Anthropic, Google і Mistral. capture() також працює з SDK, що повертають стандартний об'єкт відповіді.