MultiAgent Collaboration Attack: Investigating Adversarial Attacks in Large Language Model Collaborations via Debate

大型语言模型（LLMs）在单独工作时已经在当前基准测试中展现出了卓越的结果。它们能力的提高，以及参数大小和推理时间的减少，已经促进了这些模型作为代理的使用，使多个模型之间可以进行交互，执行复杂的任务。这种协作提供了几个优点，包括使用专门的模型（例如编码），通过多次计算提高置信度，以及增强发散思维，导致更多样化的输出。因此，语言模型的协作使用预计在未来几年中将显著增长。在这项工作中，我们评估了通过辩论协作的模型网络在对手的影响下的行为。我们引入了相关的度量标准来评估对手的有效性，重点关注系统准确性和模型一致性。我们的研究结果突出了模型说服能力在影响他人方面的重要性。此外，我们探索了推理时间方法来生成更有说服力的论点，并评估了基于提示的缓解作为防御策略的潜力。

研究语言模型在协作中的行为，以及在受到对手影响时的表现，旨在评估对手的有效性。

通过辩论协作的方式，评估语言模型在协作中的表现以及对手的影响，探究模型的说服能力在影响其他模型中的作用。

实验中使用了多个数据集，提出了新的指标来评估对手的有效性，同时探究了生成更有说服力的论点和使用提示的防御策略。

最近的相关研究包括《Large-Scale Language Model for Conversational Agents》、《Collaborative Multi-Agent Reinforcement Learning with Social Learning for Autonomous Driving》等。