https://i.redd.it/i8hmjm92ao2h1.gif

我在 Reddit 的 moderator 前询问过是否可以发布这个帖子,他们说可以

我一直在开发 AI 应用程序,但一直遇到同一个调试问题

我无法轻松看到我的应用程序实际发送的内容

最后的提示、参数、响应、延迟、令牌使用情况和成本要么在日志中隐藏,要么需要设置更复杂的可观察性堆栈

所以我开发了 llm-spy

它可以本地运行作为代理

你启动它,通过 HTTP_PROXY 或 HTTPS_PROXY 将你的应用程序路由到本地终端和本地仪表板

无需云
无需 telemetry
无需 SDK 更改
仅使用 SQLite

它对使用 Claude Code、Codex、Cursor、Windsurf 或 OpenClaw 等代理的 vibe coder 也很有用

当你的代理构建的应用程序开始发出 LLM 请求时,llm-spy 让你看到实际发送的内容,而不是猜测生成的代码

安装

pip install llm-spy

llm-spy start

它也提供了一个无 API 密钥的演示,使用一个假的 OpenAI 兼容提供者,因此你可以测试整个流程而不花费任何积分

它支持 OpenAI、Anthropic、Ollama、OpenRouter、Gemini 风格请求和 OpenAI 兼容 API

一些提供商的支持还处于早期阶段

GitHub

https://github.com/momenbuilds/llm-spy

我非常希望从应用程序开发者那里获得反馈,特别是关于这个工具是否有助于开发 AI 特性、调试提示、检查成本或测试 LLM 功能流