Secret Collusion Among Generative AI Agents

最近大型语言模型（LLMs）的能力提升打开了通信生成AI代理团队解决联合任务的应用，这引发了关于未经授权的信息共享或其他不需要的代理协调形式的隐私和安全挑战。现代隐写术技术可以使这种动态难以检测。本文通过借鉴AI和安全文献的相关概念，全面形式化了生成AI代理系统中秘密勾结的问题。我们研究了使用隐写术的激励，并提出了各种缓解措施。我们的调查结果导致了一个模型评估框架，系统地测试了各种形式的秘密勾结所需的能力。我们在一系列现代LLMs上提供了广泛的实证结果。虽然当前模型的隐写能力仍然有限，但GPT-4显示出了能力跳跃，表明需要持续监测隐写前沿模型的能力。最后，我们总结了一项全面的研究计划，以缓解未来生成AI模型之间勾结的风险。

解决问题的问题是在系统中的生成AI代理之间发生秘密勾结的隐蔽性问题，如何检测和防止这种行为？

论文提出了一种综合性的框架来检测和防止生成AI代理之间的秘密勾结，包括使用隐写术的激励和应对措施，以及一个模型评估框架来测试各种形式的秘密勾结所需的能力。

论文使用现代隐写术技术来研究和评估当前大型语言模型的隐蔽能力，提出了一种新的方法来解决生成AI代理之间的秘密勾结问题，包括建立一个模型评估框架和实验数据集。

最近的相关研究包括《使用深度学习进行隐写术的研究》和《隐写术和隐写分析的最新进展》等。