Visibility into AI Agents

商业、科学、政府和个人活动向人工智能代理的委托越来越多，这些系统能够在有限的监督下追求复杂的目标，这可能会加剧现有的社会风险并引入新的风险。了解和减轻这些风险需要对现有的治理结构进行批判性评估，在需要时修订和调整这些结构，并确保关键利益相关者的责任。了解某些人工智能代理被谁、在哪里、为什么、如何使用的信息，我们称之为可见性，对于实现这些目标至关重要。在本文中，我们评估了三类增加人工智能代理可见性的措施：代理标识符、实时监控和活动记录。针对每一种措施，我们概述了潜在的实施方案，这些方案在侵入性和信息性方面各有不同。我们分析了这些措施如何适用于从集中式到分散式部署环境的各种情况，考虑了供应链中的各种参与者，包括硬件和软件服务提供商。最后，我们讨论了我们的措施对隐私和权力集中的影响。进一步研究了解这些措施并减轻它们的负面影响，有助于为人工智能代理的治理打下基础。

如何增加对AI代理的可见性，以便更好地管理和监控其行为，从而减少潜在的风险和负面影响？

通过三种措施（代理标识符、实时监控和活动日志记录）增加对AI代理的可见性，以便更好地了解它们的使用情况和行为，从而实现更好的管理和监控。

论文分析了三种措施的不同实现方式，以及它们在中心化和去中心化环境下的适用性和影响。同时也讨论了这些措施对隐私和权力集中的影响。

最近的相关研究包括《AI安全》、《AI伦理》等。