大家好，我们都知道基于云的AI NPC（如NVIDIA ACE）听起来非常令人兴奋，但它们有一个巨大的问题：服务器和令牌成本。对于开发者来说，维持数百万名玩家与NPC交流24小时是一种极其昂贵的负担。但是，假如我们将处理转移到客户端的PC上呢？以下是想法： 游戏包含一个轻量级的本地SLM（小语言模型，如Phi-3或Llama 3）整合到游戏文件中。为了节省内存并防止幻觉，游戏使用一个本地RAG系统（游戏的 lore/story 数据库）。 实际操作方式如下： 1. 你接近NPC并与其交谈。 2. 游戏触发快速搜索在本地数据库中拉取该NPC的 lore、人格和当前任务状态。 3. 游戏将这些数据注入本地SLM，玩家的GPU/CPU处理答案。 0令牌成本对于开发者。玩家完全隐私和离线能力。 当然，VRAM管理是这里最大的挑战，因为AI将与游戏图形竞争。但你认为这是否可以成为未来可选的图形/系统设置，如“标准NPC”或“AI NPC”？取决于你的设备？我非常想听听你对此架构的想法！