核心论点
「等几个月，下一代模型就会解决协调问题。」
这个论点有三步成立：
- 当前多智能体系统无法自主构建大规模软件 ✅
- 问题归结为协调问题 ✅
- 下一代模型会更聪明 ✅
- 下一代模型不会有协调问题 ❓
第三步的结论跳过了关键一步。协调问题是本质问题，不是能力问题。再聪明的参与者也无法逃脱 FLP 定理。
形式化模型
多智能体软件开发可以形式化为：
给定 Prompt P → 多个 Agent {A1, A2, ..., An} → 软件系统 S
Prompt P 本质上是欠规范的（underspecified）——同一 Prompt 可能对应多个满足它的程序。多个 Agent 并行工作，每个产生组件 {C1, C2, ..., Cn}，它们必须达成共识使最终组合 S 满足 P。
这本质上是一个分布式共识问题。
一个具体例子
如果负责网络连接的 Agent 选择了一个回调风格的异步 API 库，那么负责整体集成的 Agent 必须围绕这个选择来组织基础设施。这种选择在不同模块间相互约束，最终形成一个联合综合问题（joint synthesis problem）。
FLP 不可能性定理
Fischer, Lynch, Paterson 1985 年证明：
FLP 定理：在任何异步分布式系统中（消息传递有任意延迟，且至少有一个节点可能崩溃），任何确定性协议都无法在有限时间内保证所有非故障节点达成共识。
假设在多智能体系统中的对应
异步消息：LLM 之间的消息传递本质上是异步的。一个 LLM Agent 向另一个发送消息——无论是通过共享文件系统、消息队列还是其他脚手架——消息何时被接收，取决于接收方 LLM 何时处理完当前推理轨迹。无法对消息传递时间设置上界。
崩溃故障：Agent 经常自己搞砸自己。崩溃不仅指进程本身终止，也可能是运行一个永不终止的工具（如包含意外循环的 bash 脚本）。
对多智能体软件的推论
无论模型多聪明，任何多智能体系统都无法同时保证：
- 安全性：产生满足用户规范的格式正确的软件
- 活性：最终就最终软件模块达成共识
一个常见现象可以用 FLP 视角解释：Agent 在设计决策上来回循环，一个选了一个设计决策，另一个又改回去，如此往复。看起来在「做」，实际上没有共识。
Byzantine Generals 问题
Byzantine 故障建模最严重的故障假设：崩溃之外，故障节点可能任意偏离协议——伪造其他用户的消息、向不该接收的参与者发送消息、重复发送之前消息等。
在多智能体软件开发中，这个模型捕捉的是 Prompt 误读：
一个误解了 Prompt 的 Agent，可以被视为协议中的 Byzantine 节点——它积极地与其他参与者对抗，试图产生一个正确的软件系统。
Byzantine Generals 定理（Lamport, Shostak, Pease, 1982）：在有 Byzantine 节点（任意偏离协议）的同步消息传递系统中，诚实节点之间只有当总节点数
n ≥ 3f + 1时才能达成共识，其中f是 Byzantine 节点数。
实际含义
如果超过 1/3 的 Agent 误读了 Prompt，共识就不可能达成。这不是一个可以通过更好的模型来解决的问题——这是硬性上限。
关键洞察：误读的数量只能通过减少误读的技术来降低，而不是通过更聪明的模型。外部验证机制（测试、静态分析、形式化验证）实际上把误读转化成了崩溃故障——Agent 不是带着误解继续，而是可以崩溃或精炼理解来匹配测试。
CAP 定理的类比
| 组件视角 | 系统视角 |
|---|---|
| 我应该采样多少次？ | 门应该如何排列？ |
| 我的验证器应该多大？ | 什么让一种拓扑更好？ |
| 我如何分配算力？ | 验证在哪里必然失败？ |
大多数文献仍然把验证当作组件选择，而不是管道拓扑问题。
实用建议
1. 给 LLM 提供检查其他 Agent 存活状态的工具
Chandra 和 Toueg 证明了如果 Agent 可以访问不可靠的故障检测器（报告其他 Agent 是否仍然存活），FLP 设置下的共识是可解决的。ps | grep claude 可能对应某种故障检测器。
2. 用测试和验证把误读转化为崩溃故障
与其让 Agent 带着误解继续，不如让它在不符合测试时崩溃或重新理解。这把危险的 Byzantine 行为转化成了可处理的崩溃故障。
3. 不要忽视协调问题
人们在用单个 Agent 时确实取得了一些成功（Anthropic 的 C compiler 项目），但这并不意味着协调问题不存在。它只是被隐式地通过临时机制解决了，没有任何保证或失败模式的明确设计。
结论
多智能体软件开发的协调问题是本质问题，不是Transient问题。FLP 定理和 Byzantine Generals 定理不依赖模型能力——它们是领域本身的内在属性。更聪明的 Agent 可能缩小我们算法中的常数，但它们不能也不可以移除这些上界。
如果我们真的想让多智能体软件开发规模化，就必须有人真正去做设计协议、语言和工具的工作，把协调问题当作第一公民来解决，而不是希望它消失。