MultiAgent Collaboration Attack: Investigating Adversarial Attacks in Large Language Model Collaborations via Debate

大型语言模型（LLMs）在个体工作时已经展现出了异常的成果。随着它们能力的提升，参数大小和推理时间的减少，使得这些模型作为代理人进行交互，执行复杂任务成为可能。这样的协作具有多种优势，包括使用专门的模型（例如编码），通过多次计算提高信心，以及增强分散思维，从而产生更多样化的输出。因此，语言模型的协作使用预计在未来几年将显著增长。在本研究中，我们评估了在对手的影响下通过辩论协作的模型网络的行为。我们引入相关的度量标准来评估对手的有效性，重点关注系统准确性和模型一致性。我们的发现突出了模型说服力在影响其他模型方面的重要性。此外，我们探讨了推理时间方法来生成更有说服力的论点，并评估了基于提示的缓解作为一种防御策略的潜力。

本论文旨在评估通过辩论合作的模型网络在对抗性环境下的行为，研究拥有说服力的模型在影响其他模型方面的重要性。

本论文通过评估辩论合作的模型网络在对抗性环境下的行为，发现模型的说服力对于影响其他模型具有重要性。

论文使用了辩论合作的模型网络，设计了相应的指标来评估拥有说服力的模型在影响其他模型方面的重要性。论文还探讨了生成更有说服力的论据的推理时间方法，并评估了以提示为基础的缓解策略的潜力。

最近的相关研究包括“Collaborative Learning for Deep Neural Networks”和“Adversarial Collaboration: Joint Unsupervised Learning of Depth, Camera Motion, Optical Flow and Motion Segmentation”。