☰
每个智能体都答对了,团队为什么还是错了
2026/10/7 8:32:10 网站建设 项目流程

每个智能体都答对了,团队为什么还是错了

每个智能体都答对了,团队为什么还是错了

**一句话版本**:把任务拆给多个智能体分头做、每步各自都合规,合起来照样能崩——论文证明这不是模型不够聪明的问题,而是「状态」问题:关键区别不在任何人的上下文里时,再强的推理也变不出来;解法是让机械 harness 掌管全局状态,而不是再加一个管理者智能体。

一句话版本(先给结论)

论文《Global Coherence》首次把「每个智能体都对、团队仍然错」形式化成一类独立故障:局部有效 ⇏ 全局连贯。核心结论是一个不可能定理——两个情境对所有参与者看起来完全相同、却需要不同动作时,任何推理/投票/换角色/随机化都救不了,最优成功率就是瞎猜(1/k);而把缺失的那一句话补进上下文,立刻回到满分。处方:模型提议、机械支架裁决。

封面:拼图都对,整体有裂缝

一个反直觉的定理

先看最锋利的那个结果,观测混叠不可能定理:

一个策略能从它的观测(对 LLM 智能体就是上下文)中保证选出正确动作,当且仅当「与该观测一致的所有世界」允许一个共同动作。当存在 k 个长得一样但合法动作集两两不相交的世界时,任何策略的最坏情形成功率恰为 **1/k**——没有下界更高的办法,没有。

翻译成人话:如果两条工作史产生同一份日志(因为有一个事件被隐藏了),而它们对应的正确动作不同——那么无论你换更强的模型、加长思考、拆角色分工、引入投票、还是多次采样,期望表现就是抽签。更强的模型只是在自己的上下文里搜得更勤;它看不见上下文之外的东西。

论文的实证非常配合这个冷酷结论:一个前沿模型在某修订基准上全见状态时 40 题全对;把决定性事件藏起来后,在测试的各种推理策略/角色/投票/工具条件下,观测准确率与三选一瞎猜(1/3)统计上无法区分;往上下文里补一句陈述缺失事实的话,恢复 40/40。

这一段值得每个做智能体的人抄在工位上:上下文工程有用的位置恰好是「它把缺失的区别放进了窗口」;对同一个窗口加长推理,没用。这把智力和可识别性干净地分开了——对人类团队、AI 团队、人机混合团队一视同仁。

第二种失败:拼得起来吗

第二种失败更隐蔽:信息大家都有,局部也都自洽,但局部一致的碎片拼不成任何一个全局状态。

三个两两翻译各自格式良好、互逆一致、局部合理,但绕一圈回来回不到起点;三个角色各自花销合法,总账爆了预算。论文用数学里现成的精确结构把这类问题统一建模成一个五元组:拓扑(谁和谁共享什么)、坐标系(谁用什么单位编码——设计智能体记毫米、加工智能体记米、成本智能体记英尺,同在一根梁上)、复合(局部如何拼)、约束语义、加一个判别代数 D 管「哪些区别必须保留」。

冷知识级别但极实用的结论:跨表示的一致性可以线性时间验证,但找最小代价的修复是 NP 难;共享预算根本不可能靠独立局部检查保护——要么提交时统一裁决,要么切分成配额。

处方:管理者智能体为什么不够

直觉方案是「加一个 manager 智能体统筹」。论文明确反对:管理者只是又一个多一个视图的参与者,同样被定理约束。正确形态是:

**模型提议,机械 harness 裁决。** harness 是纯机械的(无模型),职责由框架推导出来:哪些区别它必须掌管、哪些重叠可能藏全局不一致、哪些翻译环路必须闭合、哪些变更必须等到提交。

它像数据库事务引擎,不像同事。

机械守门人:模型提议,harness 裁决

四个实证(预注册面板)

1. 预算超支:60 轮 TeamBench,普通智能体团队 5/5 全部超支 20 次调用的共享预算;给它们看实时计数仍 4/5 超支(看见了也不管用——又是「信息在窗口里没用上」的变体);提交时强制执行预算 0/5 超支,且任务进度无下降。固定按角色托管配额同样 0/5。信息展示救不了,结构裁决才救得了。

2. 本体对齐碰撞:2018-2024 的 45 个公开本体对齐网络中,23 个含有两两不可见的同本体身份冲突。拿到分裂视图的智能体在 40 次合并中复现了 9 次这类冲突;网络级检查 9/9 全检出全移除(代价:广播式修复让平均 F1 从 0.796 降到 0.774——修复有成本,但确定性移除)。

3. τ²-bench 电信面板(222 集):注入的变更破坏规则时,常规策略检查与连贯性 harness 打平(常规工具本来管着那块状态);已提交变更被静默撤销时,带常规检查的智能体得分 0.07,带 harness 的 1.00——0 到 1 的差距,正好落在「决定性状态无人掌管」的格子里。

4. 全部九项研究汇总的模式正是定理画的像:harness 在决定性状态缺失或无人掌管处赢,在常规工具已掌管该状态处平。

环路闭合:绕一圈回得到起点吗

工程落地清单(论文直接给的)

- 陈旧读+原子提交:每条提议记录它依赖过的全部状态版本(不只是最后那笔工具调用碰到的——五轮前读过的一条引文也算现在这笔订单的读集),提交时原子校验版本没变再写入。这给智能体系统一个「逐条串行」的语义保证。

- 配额/托管替代共享预算:把共享资源切成每角色独立配额,让角色彼此独立,全局约束自动成立。

- 环路闭合检查:任何跨表示翻译链,机械地验证绕环回来是否回到原点。

- 失效归档优于静默过时:下游依赖被设计变更波及时,让旧派生物显式失效,而不是悄悄烂掉。

结语

这篇论文的真正贡献是把一类大家各自挨过打、但没叫过名字的故障,命名并钉死在理论墙上:多智能体系统的可靠性问题里,有一大块根本不是智力问题,是状态归属问题。模型负责提议,机械支架掌管「哪些区别不能丢、哪些账必须全局算」——分权给纯机械的守门人,恰恰是对抗「人人都对、合起来错」的唯一解。

*论文:Global Coherence: When Every Agent Is Right and the Team Is Still Wrong(arXiv 2610.02036)*

*BuddyMe 每日免费 4500 万 Token。*

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询