大家好,我是一个名为 CogentLM 的开源项目的维护者。

它是一个 NPM 库,允许你在 three.js/webgl 游戏中直接运行小型 LLM。你可以用它来驱动 NPC 行为、生成动作、处理决策,或创建动态内容,全部无需服务器费用。

我们最近已在 NPM 上发布:

https://www.npmjs.com/package/cogentlm

以下是视频中的演示以及源代码:

https://promptcast.dev/

演示使用本地 LLM 来驱动法术创建,法术会根据玩家输入动态生成,全部使用本地 LLM。

欢迎随时提问或进一步讨论技术栈。