https://github.com/CrewRiz/catalyst-kv-cache 这个仓库是一个开源的适配器，它是基于我的 SDK 制作的，作为 kv-cache 的替代品。Solo 研究和开发了 10 个月，catalyst-brain SDK 是一个 Freemium/闭源的 SDK，允许开发者轻松使用 catalyst-brain API 构建应用。这是几个适配器中的第一个 -- 这个解决方案完全解决了 kv-cache 的问题，意味着这个仓库和我的 SDK 将显著降低私有、局部模型的运行障碍，因为 kv-cache 将不会再因为上下文爆炸而崩溃。有几种变体和技巧可以实现一种无限上下文窗口，我仍在探索 -- 一旦稳定，我就会分享这些。告诉我你的想法！