Improving Factuality and Reasoning in Language Models through Multiagent Debate

Yilun Du, Shuang Li, Antonio Torralba, Joshua B. Tenenbaum, Igor Mordatch
[MIT CSAIL & Google Brain]

通过多智能体辩论提高语言模型的真实性和推理能力

要点:

  • 动机：改善大型语言模型在事实准确性和推理能力方面的表现，减少错误答案和幻觉的生成。
  • 方法：通过多个语言模型实例进行辩论和推理过程，达成共识，提高语言回应的准确性和推理能力。
  • 优势：这种“社会思维”方法显著提升了数学和战略推理的能力，同时改善了生成内容的事实准确性，并可直接应用于现有黑盒模型。


通过多语言模型实例的辩论和推理过程，改善大型语言模型的事实准确性和推理能力，为语言生成和理解领域的进一步突破铺平道路。

https://arxiv.org/abs/2305.14325 
图片
图片