Security of AI Agents

大型语言模型的研究和发展推动了人工智能代理的发展。人工智能代理可以作为智能助手，通过访问工具和执行命令来代表用户完成任务。通过研究和体验典型人工智能代理的工作流程，我们提出了几个关于它们安全性的问题。这些潜在的漏洞不是通过用于构建代理的框架来解决的，也不是通过旨在改进代理的研究来解决的。在本文中，我们从系统安全的角度详细描述了这些漏洞，强调了它们的原因和严重影响。此外，我们介绍了相应于每个漏洞的防御机制，并进行了细致的设计和实验以评估它们的可行性。总的来说，本文将当前人工智能代理的安全问题置于背景中，并勾勒出使人工智能代理更加安全可靠的方法。

本论文旨在从系统安全的角度，识别和描述当前AI代理存在的潜在漏洞，并提出相应的防御机制，以使AI代理更加安全可靠。

本论文提出了一些当前AI代理存在的安全漏洞，并设计了相应的防御机制，如基于深度学习的异常检测、代码签名和白名单机制等。

本论文详细描述了AI代理的安全漏洞，提出了相应的解决方案，并进行了实验验证。同时，本论文还提供了开源代码和数据集，以便其他研究者进行深入研究。

在这个领域中，最近的相关研究包括《Towards Evaluating the Robustness of Neural Networks》、《Adversarial Attacks and Defences in Deep Learning》等。