多智能体:分工、协商与失败模式
本篇要点:读完能判断一个任务该不该拆成多个智能体,能写出状态契约与结构化通信协议,并给协商环节配上硬预算闸门。前置要求:《Agent 编排:ReAct、状态机与人在回路》已经用图编排跑通单 agent 的 ReAct 循环,《成本与延迟:把账算清楚》算过 token 成本结构与提示缓存。
为什么需要它
一个跑得好好的单 agent 工单分诊流程,被拆成四个角色:规划、检索、撰写、审校。上线第一周,单次会话平均 token 从 1.8 万涨到 27 万,任务成功率从 71% 掉到 64%。
这次失败有公开的预警。Anthropic 那篇讲多智能体研究系统的工程文章写明「多智能体系统比单轮对话多消耗约 15 倍 token」,原文见 How we built our multi-agent research system。15 倍是他们的搜索场景读数,不是普适常数,照搬到工单场景的结果在后面表 10-1。看到这类数字时常见的判断是「那是搜索场景,工单场景应该不至于」——工单场景的代价一样按乘数放大。
多智能体(multi-agent system)的收益是真的,但它只对一类任务成立。这一章把那类任务的边界画出来,也把拆错之后账单长什么样摆出来。
核心概念
概念一:多智能体是上下文隔离,不是角色扮演
定义:多个由模型驱动的智能体各自持有上下文,通过消息或共享状态协作完成同一个任务。
它的价值来源不是「几个专家一起讨论」,而是「每部分信息在自己的窗口里被压缩掉,只把结论交回去」。子智能体拿到一整片原始材料,读完之后只回一段摘要,主控方不必把材料本身装进自己的上下文。
反例是把一个提示词拆成四段串行调用,四个「角色」共享同一份上下文。那只是把一次调用变成四次调用,除了账单没有别的变化。
概念二:按上下文窗口切,不按组织架构切
「规划、检索、撰写、审校」这个切法像在排组织架构。真正的切分依据是「哪部分信息必须和其他部分隔离」。
审校智能体的失败就出在这里。它在共享状态里只看得到撰写交回的稿子,看不到检索拿回的原文证据;要判断「稿子里的引用成不成立」,它只有一个办法:自己再检索一遍。链路里最贵的一步被完整执行了两次,如图 10-1。
图 10-1 状态里只传 draft 时,审校环节只能重跑一次检索
图 10-1 里那条回到检索的边就是成本漏洞。判断方法很简单:把角色之间的箭头标上「传了什么」,如果某个角色的输入不足以完成它的判断,它一定会自己去补一次。
概念三:状态契约写死,通信协议结构化
状态契约(state contract)是显式声明「哪些字段谁写、谁只读、哪些累加」的那份约定。没有它,多个节点写同一个 dict,后写的覆盖先写的,问题只在数据不一致时才暴露。
第一版让智能体之间自由对话,理由是「涌现能力」。跑了三天就认输:两个智能体客客气气来回 11 轮才把订单号对齐;消息没有 schema,取字段要写正则;有一次一个智能体回了张 markdown 表格,另一个把它当成操作指令,直接去查了退款接口。
第二版全换成结构化契约,每个子智能体的输入必须包含四件套:目标(objective)、输出格式(output_format)、可用工具(allowed_tools)、边界(boundaries)。边界那一项要写死一句话:只回答目标范围内的问题,查不到就返回 found=false,不要推测。
还有一个静默失败要单独说。主控把计划写进状态,后面每个子智能体出结果都往里追加,跑到第四个子智能体时状态撞上上下文上限,计划字段被裁掉。上下文被裁的时候不报错:它重新想了一遍要干什么,又发起一批新的子智能体,把做过的方向重跑一遍;日志上看像自我修正,实际是空转,而且很贵。
Anthropic 的处理是把计划放到上下文之外的 Memory 里,理由写得很直白:上下文会被截断,所以计划必须留住。更省的做法是写进 Redis,key 用 thread_id,每一轮重新读。截至 2026 年 11 月,主流长上下文模型的输入窗口在几十万 token 量级,具体数字查各家模型文档的 context window 一节;要紧的是「裁掉不报错」这个行为,不是那个数字。
概念四:协商要有裁判,不要辩论
撰写和审校意见不一致时,第一版让它们辩论,最多三轮互相说服。账单很诚实:单次会话 token 从 27 万涨到 61 万,成功率涨了 2 个百分点。
平权的对话结构没有终止条件。要么设轮数上限,那是在赌;要么让模型自己判断「我说服他了」,那也是赌。换成仲裁,有三条规矩。
- 输入不传原文。仲裁者拿到的是两个结构化结论加各自的证据等级,不是两段措辞;否则谁写得好看谁赢,跟对错无关。
- 必须有无歧义的 tie-break(决胜规则)。证据等级不同就听等级高的,等级相同取更保守的结论。不留「你来综合判断」这种口子。
- 仲裁者手里要有硬预算开关。超了直接转人工,不给它「再想想」的机会。
概念五:成本是乘数,并发是另一笔账
同一套工单测试集,600 条,指标人工标注,四轮改造的数据摊在表 10-1。单次成本按 3 美元每百万 token 估算。
| 版本 | 每次会话 token | 成功率 | 平均耗时 | 单次成本 |
|---|---|---|---|---|
| 单 agent 基线 | 1.8 万 | 71% | 34 秒 | 0.054 美元 |
| 四角色自由对话 | 27 万 | 64% | 112 秒 | 0.81 美元 |
| 四角色 + 结构化契约 | 35 万 | 73% | 128 秒 | 1.05 美元 |
| 上述 + 仲裁替代辩论 | 41 万 | 75% | 96 秒 | 1.23 美元 |
表 10-1 四轮改造的 token、成功率与单次成本
最后一行成功率只比单 agent 高 4 个百分点,成本是 22.8 倍。这张价签摆出来之后,才有依据按工单类型分流:贵的那条链路只走 8% 的量。
并发是另一个容易漏算的成本项。扇出三个子智能体,意味着同一秒要向同一个上游模型接口发三次请求。4C8G 的网关在压测里 P99 从 240 毫秒涨到 1.9 秒,触发限流的比例 6%,框架的重试又叠上一层,几轮下来实际发出去五次请求。扇出之前加令牌桶(token bucket),每个会话每秒最多两个并发调用,超出排队,吞吐降一点,账单和错误率都收敛。
还有一条设计约束与成本无关,但必须在架构里定死:有副作用的动作——下单、退款、发消息、改配置、调额度——收口到单点工具,带幂等键和人工确认,不让任何智能体凭「讨论已经达成一致」就去执行。最接近事故的一次,是两个智能体对「客户已经同意退款」达成了一致,而客户从来没有说过这句话。
动手实践
步骤 1:把状态契约写成类型
状态契约不是文档,是代码里的类型。下面这段用 TypedDict 声明,evidence 用 operator.add 标注为累加,其余字段默认覆盖写。
import operator
from typing import Annotated, TypedDict
class TriageState(TypedDict):
ticket: str
plan: str # 只允许 lead 写,子 agent 只读
evidence: Annotated[list[dict], operator.add] # 累加,不覆盖
draft: str
verdict: str # 枚举 pass / revise,不接受自然语言
usage: dict # total_tokens / calls,每节点自增
print(list(TriageState.__annotations__))
print(TriageState.__annotations__["evidence"].__metadata__)运行结果:
['ticket', 'plan', 'evidence', 'draft', 'verdict', 'usage']
(<built-in function add>,)第一行是字段顺序,第二行说明 evidence 带了一个 reducers,框架合并多个节点的写入时会相加而不是覆盖。verdict 用枚举而不是自由文本,是为了让仲裁节点能比较,而不是去读一段自然语言。
步骤 2:给子智能体加结构化契约与兜底
from pydantic import BaseModel, ValidationError
SUBAGENT_SPEC = """objective: {objective}
output_format: JSON,必须通过 Evidence 模型校验,校验失败重试不超过 2 次
allowed_tools: {tools}
boundaries: 只回答 objective 范围内的问题;查不到就返回 found=false,不要推测
"""
class Evidence(BaseModel):
found: bool
summary: str
source: str
def dispatch(objective: str, tools: list[str]) -> dict:
raw = subagent.invoke(SUBAGENT_SPEC.format(objective=objective, tools=tools))
try:
return Evidence.model_validate_json(raw).model_dump()
except ValidationError:
return {"found": False, "summary": "", "source": "schema_violation"}
print(dispatch("订单 DD12345678901 是否已发货", ["get_order_status"]))
print(dispatch("这个客户的心情如何", []))预期输出:
{'found': True, 'summary': 'DD12345678901 已发货,承运商 SF', 'source': 'order_api'}
{'found': False, 'summary': '', 'source': 'schema_violation'}第二行是兜底分支:宁可空手回来,也不接受一段自由格式的推测。加了这两行之后,编造来源的比例从 12% 降到 3% 左右,样本 400 条人工标注;代价是重试让成本又多三成。
顺带一个方向性判断。MCP 的规范演进正在往反方向走:2026-07-28 这一版把协议做成无状态的,去掉了 initialize 握手和协议级会话,需要跨调用状态的,由服务端签发显式 handle,当普通工具参数传。这个取舍的教训是:智能体之间的状态别指望框架藏在会话里,能显式传就显式传。
步骤 3:给仲裁装上预算闸门
MAX_TOKENS_PER_THREAD = 400_000
def arbitrate(state: dict) -> dict:
if state["usage"]["total_tokens"] > MAX_TOKENS_PER_THREAD:
return {"goto": "human_review", "reason": "budget_exceeded"}
a, b = state["claim_a"], state["claim_b"]
if a["evidence_level"] != b["evidence_level"]:
winner = a if a["evidence_level"] > b["evidence_level"] else b
return {"goto": "write", "text": winner["text"]}
# 等级相同不猜对错,取更保守的那份结论,见概念四的 tie-break 规矩
return {"goto": "write", "text": more_conservative(a, b)}
over = {"usage": {"total_tokens": 412_000}, "claim_a": {}, "claim_b": {}}
print(arbitrate(over))
same = {"usage": {"total_tokens": 120_000},
"claim_a": {"evidence_level": 2, "text": "A 稿"},
"claim_b": {"evidence_level": 2, "text": "B 稿(说法更保守)"}}
print(arbitrate(same))预期输出:
{'goto': 'human_review', 'reason': 'budget_exceeded'}
{'goto': 'write', 'text': 'B 稿(说法更保守)'}第一行是预算闸门先于任何判断生效,这是顺序问题:闸门放在后面,超预算的会话仍然会把两个结论都算完。LangGraph 里这套结构用 Command(goto=..., update=...) 表达,这里用 dict 返回便于直接看输出。截至 2026 年 11 月,LangGraph 在 1.2.x 线,MIT 协议,Send 做扇出、Command 做跳转、interrupt 做人机中断,当前版本看 LangGraph 发布页。它的定位写得很谦虚:低层编排框架,负责持久化执行、流式输出、人机协同这些杂事,不负责替你决定该不该拆。
常见误解
误解一:角色越多越像团队,分工越细效果越好。按组织架构切角色,几个角色往往共享同一份上下文,拆开只增加了调用次数;审校因为看不到证据,还会把最贵的检索重跑一遍。切分的依据是上下文隔离,不是岗位表。
误解二:让两个智能体辩论能提高准确率。27 万 token 涨到 61 万,成功率涨 2 个百分点,而且平权结构没有可靠的终止条件。冲突消解要用有等级的仲裁加硬预算,不用互相说服。
误解三:多智能体的成本就是「token 单价乘一下」。漏掉的是并发、重试、限流、延迟四项:扇出三次请求把网关 P99 从 240 毫秒推到 1.9 秒,6% 的请求被限流,重试再放大一轮。这些账在框架文档里不会被强调。
小结
- 多智能体的价值是上下文隔离与压缩,不是角色扮演。共享上下文的多个角色只是多次调用。
- 按上下文窗口切角色,不按组织架构切。判断依据是一个角色的输入够不够它做判断。
- 状态契约要写进类型:谁写、谁只读、谁累加。计划类字段放在上下文之外,因为上下文被裁时不报错。
- 冲突消解用有等级、有 tie-break、有硬预算的仲裁,不用辩论。平权对话没有终止条件。
- 成本按乘数算:一次扇出就是三倍并发,限流与重试会再放大。有副作用的动作收口到单点工具,带幂等键与人工确认。
相关主题
到这里,链路、知识、编排都已经跑在云端的模型 API 上。《进阶:私有化部署与推理优化》换一个前提:把模型搬进自己的机房。显存怎么估、量化会损失什么、吞吐和延迟怎么权衡,以及国产硬件当前的适配状况——这些决定了同样的架构在私有化环境里还剩多少可用性。