AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents

由大型语言模型（LLM）驱动的AI代理是一个极具潜力的新兴领域，能够大幅提升人类生产力。然而，赋予AI代理在日常任务中代表用户采取行动的能力，需要让它们访问可能敏感和私密的信息，这在代理出现故障时可能导致无意的隐私泄露风险。在这项工作中，我们提出了一种应对这种潜在风险的方法，即通过训练AI代理更好地满足“数据最小化”这一隐私原则。在本基准测试中，“数据最小化”指的是仅在为实现特定任务相关目的所必需的情况下共享私密信息。我们开发了一个名为AgentDAM的基准测试工具，用于评估现有的和未来的AI代理在多大程度上能够限制对被指定为“非必要”的潜在私密信息的处理。该基准模拟了真实的网络交互场景，并适用于所有现有的网络导航代理。我们利用AgentDAM评估了基于GPT-4、Llama-3和Claude构建的AI代理在不必要的时候对潜在私密信息的处理限制能力，并发现这些代理常常容易无意间使用不必要的敏感信息。最后，我们提出了一种基于提示（prompting）的方法来减少这种情况的发生。

论文试图解决AI代理在执行任务时可能无意中泄露用户敏感信息的问题，特别是当代理处理不必要的私人数据时。这是一个新兴但重要的问题，随着AI代理技术的发展变得越来越关键。

论文提出通过训练AI代理更好地遵循数据最小化原则来减少隐私泄露风险。具体来说，开发了名为AgentDAM的基准测试工具，用于评估AI代理在模拟真实网络交互场景中限制处理非必要私人信息的能力。这一方法的新意在于专门针对AI代理的数据使用行为进行优化和评估。

1. 提出了AgentDAM基准测试，可适应现有所有网络导航AI代理；2. 对基于GPT-4、Llama-3和Claude的AI代理进行了实验评估，发现它们普遍存在无意使用非必要敏感信息的情况；3. 提出了一种基于提示（prompting）的方法以显著减少此类问题；4. 模拟了多种现实世界中的网络交互场景，增强了研究的实际应用价值；5. 虽未明确提及代码开源，但其设计思路清晰，值得进一步实现和扩展。

最近的相关研究包括：1. 'Privacy-Preserving Language Models'探讨如何在训练语言模型时保护隐私；2. 'Evaluating AI Agents for Ethical Decision-Making'研究AI代理在伦理决策中的表现；3. 'Data Minimization in AI Systems'聚焦于数据最小化原则在AI系统中的应用；4. 'Prompt Engineering for Privacy Enhancement'讨论了通过提示工程增强隐私保护的技术。