我的 AI 构建栈正在变成一个组织,而不是一个聊天机器人

我正在围绕着赫尔墨斯(Hermes)作为首席助理(Chief of Staff)进行构建,而不是试图让一个巨大的模型做所有事情。

赫尔墨斯拥有意图、授权、记忆、项目和协调。下面它是各种专家的云群(specialist swarms)分别负责工程、产品、市场/社交、销售、研究、运营和客户支持。

模型是可互换的计算机。本地推理(local inference)处理日常工作;更强大的本地模型处理编码/推理;前沿模型(frontier models)用于上升处理。一个模型总监(model director)根据能力、成本、延迟和可用性而不是将组织硬编码到一个LLM(大型语言模型)中进行选择。

工具位于代理(agent)之下:终端/SSH、Git、浏览器/搜索、电子邮件、社交媒体、支付、通信、自动化和基础设施。

重要的是,状态(state)位于聊天之上。身份、记忆、项目真实性、决策、任务和交接手续独立存在。一个新会话应该是另一个员工走进同一个办公室,而不是有人醒来并丧失记忆。

Kanban成为可观察的工作层:接收(Intake)→初步评估(Triage)→准备(Ready)→运行(Running)→阻塞(Blocked)→审查(Review)→完成(Done)。每张卡片都代表真实的代理工作,并且可以打开以查看代理正在做什么。

电话=指挥中心。
桌面=深度工作。
智能眼镜=ambient界面:声音输入、上下文/警报/批准/结果输出。

会话是暂时的。模型是可替换的。设备是界面。组织是永久的。

那就是架构。