论文：Debate or Vote: Which Yields Better Decisions in Multi-Agent Large Language Models?
作者：Hyeong Kyu Choi, Xiaojin Zhu, Sharon Li
Venue：NeurIPS 2025
代码：deeplearning-wisc/debate-or-vote
这篇论文在解决什么问题？
多个 LLM 先各自回答，再相互辩论，最后得到一个答案。这种 Multi-Agent Debate（MAD）经常比单个模型效果好，但这里其实同时改变了两件事：一是最开始就多采样了几个答案，二是让这些答案之间发生了交流。
所以文章问了一个很核心的问题：多个 LLM 相互辩论带来的提升，究竟来自“辩论”，还是来自最开始就多采样了几个答案？
如果不让它们交流，只把最初的答案做多数投票，也能达到类似的效果，那就不能把全部提升都归因于辩论。这篇文章不是直接设计一个更复杂的多智能体框架，而是先把这两个因素拆开，检查现有方法到底是哪一部分在起作用。
怎么把多采样和辩论拆开？
作者比较了三种流程：
- Single-agent：模型独立回答一次。实验中的单智能体分数取 5 次独立运行的平均，不是在这 5 个答案上投票。
- Majority Voting：多个智能体各自独立生成初始答案，不交流，直接投票。
- Multi-Agent Debate：从多个智能体的初始答案出发，经过若干轮交流和修改，再投票。
可以把投票写成：
\[y_0=V(y_{1,0},\ldots,y_{N,0}),\]而辩论之后的结果是：
\[y_T=V(y_{1,T},\ldots,y_{N,T}).\]关键不是比较 $y_T$ 和一个单独的回答，而是比较 $y_T$ 和已经做过多采样聚合的 $y_0$。前者检验整个系统是否有用，后者才更直接地检验辩论有没有额外价值。
主要实验使用 5 个智能体，比较 2、3、5 轮辩论，包括全连接交流的 Decentralized MAD、稀疏连接的 Sparse MAD，以及由中心智能体汇总和更新的 Centralized MAD。主要关注的同步交流协议，是每轮根据上一轮的回答并行更新，而不是依次发言。
实验结果说明了什么？
主实验使用 Qwen2.5-7B-Instruct 和 Llama3.1-8B-Instruct，在 Arithmetics、GSM8K、MMLU Professional Medicine、MMLU Formal Logic、HellaSwag、CommonsenseQA 和 HH-RLHF 共 7 个数据集上比较。各方法使用相同的数据子集，但不应把这些子集上的结果理解为完整数据集成绩。
表 1 的跨数据集平均准确率如下：
| 方法 | Qwen2.5-7B | Llama3.1-8B |
|---|---|---|
| Single-agent | 72.05% | 62.03% |
| 平均分最高的 MAD 配置 | 73.77% | 69.90% |
| Majority Voting | 76.91% | 72.42% |
这里的 MAD 配置分别是 Qwen 的 Decentralized MAD（2 轮）和 Llama 的 Sparse MAD（2 轮），不是针对每道题或每个数据集挑最好的结果。
多数投票不仅明显优于单智能体，在这个平均指标上也高于表 1 中的所有辩论配置。比如 Qwen 的 GSM8K，从单智能体的 87.13% 提高到直接投票的 94.00%，而 2 轮全连接辩论是 88.67%。更长的辩论也不一定更好，这个配置增加到 5 轮后反而降到 83.33%。
不过，不能因此说投票在每个任务上都赢。比如 Qwen 的 Formal Logic，2 轮全连接辩论为 55.56%，略高于投票的 53.97%。更准确的结论是：多数投票已经解释了大部分收益，辩论没有稳定地提供额外提升。
作者还扩展到 Qwen2.5-32B、不同 persona 和 GPT-4 等设置，整体趋势仍然相似。其中 persona 实验主要是给同一个底座模型分配不同角色，并不等于已经充分验证了不同模型组成的异构团队。
理论上怎么解释？
作者用 Dirichlet-Compound-Multinomial 模型描述智能体：它对候选答案有一个信念分布，再根据这个分布随机生成回答。辩论被抽象为根据邻居回答的计数更新信念。
直观地说，如果某个答案被更多邻居选择，智能体就会增加对这个答案的相信程度。但“更多人选择”并不自动等于“这个答案正确”。
在论文给定的贝叶斯更新模型和条件下，例如同质智能体之间全连接交流，智能体对正确答案的信念 $p_{i,t}$ 满足鞅性质：
\[\mathbb{E}[p_{i,t}\mid\boldsymbol{\alpha}_{t-1}]=p_{i,t-1}.\]可以把它理解成：有些讨论会把错误答案纠正，有些讨论也会把正确答案带偏；这种交流机制本身没有保证平均朝正确方向移动。 某一次讨论成功纠错，不代表不断增加讨论轮数就会稳定变好。
相反，对于初始独立回答，只要正确选项本来就是概率最高的选项，增加样本并投票就能放大这个优势。多选题里不一定要求正确率超过 50%，但如果模型最容易生成的本来就是某个错误答案，投票也可能把错误放大。
这里要注意，定理讨论的是特定模型下的单个智能体信念，不是无条件证明所有辩论协议都没用，也不能直接把这个期望等式当成最终投票准确率不变的证明。
怎样让辩论更有用？
文章没有停在“投票就够了”。既然问题是正确答案也会在讨论中被带偏，那能不能让正确信号更容易保留下来？
- MAD-oracle：只要某个智能体答对了，就锁定它的答案，不再被后面的讨论修改。这个实验需要知道真实答案，不能直接部署，但可以检查“保护正确答案”是否有价值。
- MAD-Conformist：如果智能体的答案与上一轮多数意见一致，就保留答案。
- MAD-Follower：以 30% 的概率采用上一轮多数意见，否则重新采样回答。
后两种方法不需要真实标签，可以改善普通 MAD，但不能把“比普通 MAD 好”理解成“已经稳定超过直接投票”。例如表 2 中 Qwen 的 2 轮全连接 MAD，Conformist 和 Follower 的平均准确率分别是 76.25% 和 76.29%，仍低于表 1 中直接投票的 76.91%。
这里真正重要的不是让智能体多说几轮，而是更新规则有没有产生可靠的纠错方向，以及如何避免已经出现的正确答案被覆盖。
一个容易忽略的细节：答案提取
附录 F 还讨论了一个很实际的问题：模型答对了，不代表评测脚本一定能把答案提取对。
作者要求模型用统一的末尾格式输出最终答案，再按一致的协议提取。表 9 中，Qwen 在 GSM8K 上，多数投票使用此前协议时得分为 67.00%，换成论文采用的答案输出和提取协议后为 94.00%；2 轮 MAD 则从 75.33% 变成 88.67%。方法之间的优劣顺序也随之反转。
所以有些看起来像“辩论提高了推理能力”的收益，可能至少部分来自格式和解析差异。这个细节很重要，因为它提醒我：在解释方法效果之前，先确认我们测到的到底是模型能力，还是评测流程对某类输出更友好。
我的想法
这篇文章读起来很舒服。问题很核心，而且描述得很具体：到底是辩论有效，还是一开始多采样几个答案就已经有效？不管是行文还是各种论证，都一环扣一环。先把实验中的现象摆出来，再用理论解释，接着根据理论做干预，最后扩展到其他设置，每一部分都在接着回答前面的问题。
论文写法也很值得学。比如实验设置开头，直接用 Baselines、Benchmarks 告诉读者这一段分别在讲什么，每一段的职责都很明确。不需要读者先看很久，再自己猜这段内容为什么放在这里。总的来说，读起来确实很舒服，好的表达是在帮读者顺着论证往下走。
技术上，我觉得最值得记住的是 baseline 的选择。只和单智能体比较，很容易把多采样、聚合、交流等不同来源的提升混在一起。以后做一个复杂 agent 系统时，也应该先问：去掉其中最核心的交互环节，只保留其他部分，还能得到多少收益？如果一个简单 baseline 已经解释了大部分提升，剩下那一点才是新机制真正需要证明的东西。进一步比较时，也值得控制总 token 或调用预算，检查把辩论开销改成更多独立采样会怎么样。
但我也不想把文章读成“多智能体交流一定没有用”。理论把交流抽象成了答案计数的更新，对自然语言理由中的新证据和推导并没有直接建模；开放式摘要实验也只有 30 个样本，而且报告的是每轮表现最好的智能体，不是一个可直接部署的多数投票方案。这些结果还不足以覆盖所有开放式任务。
对我来说，更值得探索的问题是：什么时候交流真的增加了独立回答中没有的信息？ 如果只是把同一批意见反复传播，可能只是在制造一致性；如果可以引入可验证的证据、工具反馈，或者有效区分不同推理路径的质量，才更有机会让“大家越来越一致”变成“大家越来越接近正确答案”。