AI Agents Under Threat: A Survey of Key Security Challenges and Future Pathways

人工智能（AI）代理是一种软件实体，能够根据预定义的目标和数据输入自主执行任务或做出决策。AI代理能够感知用户输入、推理和规划任务，并执行动作，算法开发和任务性能方面已经取得了显著进展。然而，它们带来的安全挑战仍未得到充分探讨和解决。本文对AI代理面临的新兴安全威胁进行了调查，将其分为四个关键知识盲区：多步用户输入的不可预测性、内部执行的复杂性、操作环境的可变性和与不受信任的外部实体的交互。通过系统地审查这些威胁，本文强调了在保护AI代理方面取得的进展和现有限制。提供的见解旨在激发进一步研究，以解决与AI代理相关的安全威胁，从而促进更加强大和安全的AI代理应用的发展。

人工智能代理的安全威胁是什么？如何保护人工智能代理的安全？

将人工智能代理的安全威胁分为四个关键知识盲区，并提出相应的解决方案。

论文系统地回顾了人工智能代理面临的安全威胁，包括用户输入的不可预测性、内部执行的复杂性、操作环境的多变性以及与不受信任的外部实体的交互。同时，提出了相应的解决方案，并讨论了当前的限制和挑战。

最近的相关研究包括“机器学习的隐私与安全”、“人工智能的安全挑战”等。