https://i.redd.it/i8hmjm92ao2h1.gif
我在 Reddit 的 moderator 前询问过是否可以发布这个帖子,他们说可以
我一直在开发 AI 应用程序,但一直遇到同一个调试问题
我无法轻松看到我的应用程序实际发送的内容
最后的提示、参数、响应、延迟、令牌使用情况和成本要么在日志中隐藏,要么需要设置更复杂的可观察性堆栈
所以我开发了 llm-spy
它可以本地运行作为代理
你启动它,通过 HTTP_PROXY 或 HTTPS_PROXY 将你的应用程序路由到本地终端和本地仪表板
无需云
无需 telemetry
无需 SDK 更改
仅使用 SQLite
它对使用 Claude Code、Codex、Cursor、Windsurf 或 OpenClaw 等代理的 vibe coder 也很有用
当你的代理构建的应用程序开始发出 LLM 请求时,llm-spy 让你看到实际发送的内容,而不是猜测生成的代码
安装
pip install llm-spy
llm-spy start
它也提供了一个无 API 密钥的演示,使用一个假的 OpenAI 兼容提供者,因此你可以测试整个流程而不花费任何积分
它支持 OpenAI、Anthropic、Ollama、OpenRouter、Gemini 风格请求和 OpenAI 兼容 API
一些提供商的支持还处于早期阶段
GitHub
https://github.com/momenbuilds/llm-spy
我非常希望从应用程序开发者那里获得反馈,特别是关于这个工具是否有助于开发 AI 特性、调试提示、检查成本或测试 LLM 功能流
评论 (0)