跳到正文
原文
Claude 官方 · 应用与案例·· 5 天前精选AI 评分58

Claude 官方拆解常驻智能体的五个核心组件

Building always-on agents

AI 导读

Claude 官方发布文章,拆解常驻智能体(always-on agents)背后的五个核心组件:事件收件箱、定时器、记忆、权限和发件箱。文章指出这类智能体大部分时间处于休眠,由 webhook、定时任务或后台作业等事件唤醒后执行一次 run,再回到休眠,循环往复。

推荐理由

Claude 官方拆解常驻智能体的五个基础组件,给出可直接照搬的架构分工与失败模式规避方法。

正文 · AI 翻译

过去几个月里,我们看到始终在线的智能体(always-on agents)重新兴起。

始终在线的智能体是有状态且主动的,这意味着它们能跨会话管理上下文,并在没有直接监督的情况下采取行动。在底层,它们与其他智能体运行在相同的核心循环上。区别在于外围架构,它由一些原语构成,这些原语控制智能体何时唤醒、每次运行之间保留什么,以及它们的工作如何触达用户。

这种重新兴起很大程度上归功于近期的模型进步,这些进步让始终在线的智能体运行起来更加实用。首先,最新的模型具有更好的判断力:它们在理解用户意图和知道何时该主动联系方面更加可靠。其次,智能成本正在降低,长周期任务受益最大。例如,在一个长周期编程基准测试中,Opus 5.5 每个已解决任务的成本比 Opus 5 低 78%,而在典型工作负载上则低 40%。

客户已经开始询问我们如何将这种体验集成到他们自己的产品中。一些公司希望让现有的智能体更加主动,而另一些公司则希望从头构建它们。

本文拆解了始终在线智能体背后的原语,并梳理了它们如何协同工作。

始终在线智能体背后的循环

始终在线的智能体实际上并非“始终在线”。这只是对用户体验的一种描述。

实际上,智能体大部分时间都在休眠,定期醒来执行工作。每一段工作称为一次运行(run):智能体接收一个事件,完成任务,然后保存关于所发生事情的信息。一次运行在一个会话(session)内进行,会话是消息和工具调用的记录。一旦运行结束,智能体重新进入休眠,这个循环无限重复。

Animated diagram of an always-on agent’s timeline: long stretches asleep with no tokens spent, broken by brief runs. Each run has four steps: an event arrives, a session starts, the agent loop runs, and the run writes back to stored state that carries over between runs.

核心原语

始终在线智能体的外围架构有五个核心原语:事件收件箱、定时器、记忆、权限和发件箱。让我们逐一来看。

事件收件箱

大多数 AI 智能体只在用户发送消息时运行。相比之下,始终在线的智能体可以由多种类型的事件触发,包括 webhook、定时任务和后台作业。

一种诱人的做法是让每个事件源直接调用智能体,但这存在一些故障模式。例如,两个同时到达的事件可能启动相互竞争的运行,而一次崩溃可能完全丢失一个事件。

这就是事件收件箱的用武之地。每个事件源不是调用智能体,而是将事件发送到收件箱,由工作进程从中取出。

最简单的版本包含三个组件:

  • 一个持久化的事件列表,通常是一个数据库表;
  • 一个处理器,通常是一个 HTTP 端点,负责将事件写入列表;以及
  • 一个工作进程,通常是一个后台服务,负责从列表中读取。

收件箱应跟踪每个事件的状态,并且可以根据来源的唯一标识符对事件进行去重。关系型数据库很适合用作收件箱,每个事件作为新行追加。我们建议从每个用户一个收件箱开始,但如果需要更高的并行度,可以进一步拆分。

Diagram of the event inbox. A handler (an HTTP endpoint) writes each event to the inbox, a database table that tracks status and drops duplicates, and wakes the worker. The worker reads what’s pending, starts the run, waits for it to finish, and marks the events done.

当新事件到来时,处理器将事件写入收件箱并唤醒工作进程。工作进程读取所有待处理的事件并启动一次运行。延续先前工作的事件(例如用户的回复)会恢复现有会话,而其他所有事件则启动新会话。

随后,worker 将事件传递给 agent loop,等待运行结束,并将相应事件标记为已完成。实现细节可能比较复杂,因此这里给出几条最佳实践:

  • 处理器应快速确认事件。某些来源(例如 webhook 提供商)会将缓慢的响应视为失败。处理器仍可执行轻量级检查,但任何更深入的验证(例如检查提示注入)都应在运行期间完成。
  • 收件箱应是唯一事实来源。当 worker 被唤醒时,它应首先从收件箱拉取最新事件。这样,如果 worker 在运行中途死亡,新的 worker 可以拾取同一事件并重试。
  • 一个收件箱同一时间只应有一个活跃 worker。这可以防止两次运行重复工作或相互覆盖。当运行中途出现新事件时,你可以将其推送到下一次运行、合并到当前运行,或者中断并重新开始。
  • worker 应将待处理事件批量合并。例如,如果用户连续发送多条消息,worker 可以将它们合并为一次运行,这样 agent 只需回复一次。

定时器

与事件收件箱配合,定时器让常驻 agent 能够主动行动。定时器通常分为两类:跟进或计划。跟进是 agent 为自己设定的截止时间,例如检查某个回复。而计划则是按已知节奏重复发生的任务,例如每日简报。

定时器存放在自己的持久化存储中,通常是另一个数据库表,与收件箱分开。收件箱应只保存已准备好处理的事件。跟进和计划可以共享相似的 schema,但计划还需要跟踪其重复发生。

Diagram of timers. A run sets a timer in a database table, either a follow-up set by the agent or a schedule set by the user. A scheduler finds what’s due and adds an event to the event inbox, which starts the next run.

定时器不会自行发起运行。相反,调度器(通常是后台服务)会以固定间隔轮询存储,并触发所有到期项。每次轮询时,调度器会:

  1. 扫描存储并找到到期的定时器。
  2. Updates each timer based on its category.
    1. 跟进应被标记为已完成。
    2. 计划应将其到期时间更新为下一次发生时间。
  3. 向收件箱添加事件并唤醒 worker。

对于调度器,你可以自行构建服务,或使用持久化执行引擎。

记忆

常驻 agent 跨许多不连续的运行工作,并依赖记忆来保持连续性。

与事件收件箱和定时器类似,记忆应拥有自己的存储。在我们的产品中,例如 Claude Code 的 auto memory 和 Messages API 的 memory tool,这是以文件目录的形式实现的。对于常驻 agent,这些目录应映射到持久化存储,通常是数据库或对象存储。这样记忆就能比 worker 存活更久。

根据经验法则,记忆应只保存 agent 无法再次查找的内容。如果某些内容已经存在于另一个系统中,例如问题跟踪器,则应保存一个指针。以下是常驻 agent 应存储的记忆类型细分:

  • 用户指令: 用户关于 agent 行为的任何指令都应保存在各自的文件中,并在每次运行开始时加载。用户不会总是在场引导 agent,因此指令必须在多次运行之间延续。
  • 用户笔记:智能体应保存它了解到的关于用户的信息,例如用户的角色、偏好,或用户给出的任何纠正。你可以从一个文件开始,随着笔记增多再拆分为多个小文件。在后一种情况下,每次运行开始时只加载一个索引,但智能体在需要更多细节时可以把各个文件拉入上下文。
  • 过往消息:智能体应跟踪它已经告诉过用户的内容,以免重复。它可以把这些内容存储在一个单独的文件中,在每次运行开始时加载,或者让 worker 加载智能体与用户最近几条消息。
  • 任务进度:对于每个进行中的任务,智能体应维护一个进度文件,记录已完成和剩余的工作。这样任何新的运行都可以读取该文件,并从上次运行中断的地方继续。与用户笔记类似,每次运行开始时只加载一个索引,但智能体在需要更多细节时可以把各个文件拉入上下文。

下图展示了一个示例设置。

Diagram of an example memory setup as a directory of files. instructions.md, index.md, and reported.md are loaded at the start of every run, while the notes/ and progress/ folders are read when needed. The agent writes to memory during the run.

以上所有内容描述的都是运行期间保存的记忆。你还可以加入 dreaming,它会回顾过去的会话以整理记忆。Dreaming 可以替换过时的条目,并发现只有在多次运行中才会显现的模式。如果你有兴趣了解更多,我们的智能体记忆文章有更详细的介绍。

在上下文窗口内

在做任何工作之前,智能体会加载系统提示、工具定义和记忆文件。这部分初始上下文“开销”会包含在每次运行中,因此我们建议保持精简,并使用提示缓存来降低成本。

新会话仅以这部分上下文开销和触发运行的事件开始。而现有会话则会带回其先前运行中的消息和工具调用。

如果会话变得过长,你可以压缩较旧的消息,或启动一个新会话。这两种方法都会丢失细节,因此任何需要持久保留的内容都应沿途保存到记忆中。

Animated chart of context used over time. A fixed band for the system prompt, tools, and memory is present on every run. An existing session brings back its whole transcript and grows until compaction turns the older transcript into a summary.

权限

权限是常驻智能体风险最大的地方。一次运行持有用户的访问权限,并且按设计是在无人值守的情况下运行的。对于每次工具调用,智能体需要决定是自行继续、阻止它,还是等待批准。

权限的组成部分与其他智能体使用的相同:

  • 凭据存储:常驻智能体通常需要敏感的用户凭据(如密码或访问令牌)才能发挥作用。推荐模式是在智能体环境之外设置一个代理,由它向传出请求添加凭据。智能体发送不带凭据的请求,代理在转发前注入真实凭据。
  • 自动模式:常驻智能体应能够在没有持续用户输入的情况下工作。我们已经在 Claude Code 中通过自动模式解决了这个问题的一个版本。自动模式使用分类器审查较高风险的操作,并阻止它们认定为危险的操作,以便 Claude 找到更安全的方法。不过,对于最重要的决策,用户审查仍然是必要的。
  • 延迟工具调用:在 Claude Code 中,钩子可以延迟一次工具调用,并等待用户提供更多输入。同样的模式也适用于常驻智能体,它们在执行某些操作前可能需要澄清或批准。当一次调用被延迟时,本次运行结束,会话在调用中途被保存。该请求会展示给用户(例如通过用 MCP Apps 构建的交互式卡片),用户的回答会作为收件箱中的一个事件返回。该事件会启动一次新的运行,用用户的输入恢复已保存的会话。在延迟调用等待响应期间,worker 可以继续处理其他事件,因此智能体不会被阻塞。

发件箱

对于大多数 AI 智能体,响应在生成时就会流式传输给用户,因此用户可以跟随 Claude 推理问题、调用工具并撰写答案的全过程。

另一方面,常驻智能体的大部分工作都在后台完成。用户得到的是结果和少量细节,而不是完整的逐步分解。

Diagram of the outbox. A run ends with nothing to say, a send tool call, or a deferred tool call that asks the user. Messages go to the outbox, a database table, and a dispatcher delivers them to the user. A deferred request can go through the outbox or be shown in your own interface.

一次运行可以以下列三种方式之一结束:

  • 智能体向发件箱发送一条消息,
  • 智能体判定无需发送任何内容,或
  • 智能体使用延迟工具调用来请求许可或额外输入。

大多数常驻智能体只需一个“发送”工具就能直接把消息送达用户。只有当你希望控制智能体发送消息的节奏,或让智能体能够从错误中恢复时,才需要正式的收件箱。

发件箱是一张单独的外发消息表,类似于事件收件箱。此外还有一个调度器,通常是一个后台服务,类似于 worker。调度器读取待发送的消息,决定要投递哪些,并将它们发送给用户。来自延迟工具调用的请求既可以经由发件箱,也可以直接在界面中展示。

除了投递之外,调整智能体发送消息的数量也很重要。发送过多消息的智能体会变得嘈杂,而发送消息不足的智能体则会遗漏用户需要知道的事情。我们建议构建评估来找到合适的平衡。在实践中,智能体最好先保持安静,然后随着时间推移赢得用户更多的关注。

各部分如何协同工作

以下是五个原语如何协同工作:

Animated diagram of how the five primitives fit together. Timers and the event inbox start a run, the run works with memory and permissions inside a session, and the outbox delivers messages to the user, whose answer comes back as an event.

每次运行都始于收件箱中的一个事件,无论是用户消息、webhook 还是定时器。当 worker 取到一个事件时,它会启动一次运行,并在新的或现有的会话中唤醒智能体。智能体读取其记忆以获得基线,在其权限范围内采取行动,然后用学到的任何内容更新其记忆。运行结束后,智能体向发件箱推送一行记录,调度器将消息投递给用户。

这些部分共同构成一个循环。一次运行可以设置一个定时器,稍后再次唤醒智能体;而当用户回复一条消息时,其回答会作为收件箱中的一个事件返回。每次运行都很短暂,但这个循环会无限持续下去,这正是让智能体感觉始终在线的原因。

致谢

由 William Hu 撰写。特别感谢 Rodrigo Olivares 和 Michael Segner 的贡献。

来源:Claude 官方 · 应用与案例 · claude.com