Personhood credentials: Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online

匿名是网络世界中的一个重要原则。然而，恶意行为者长期以来一直利用虚假身份进行欺诈、传播虚假信息和实施其他欺骗性计划。随着越来越强大的人工智能的出现，恶意行为者可以放大其行动的潜在规模和有效性，加剧了在网络上平衡匿名和可信度的挑战。在本文中，我们分析了解决这一挑战的新工具——“人格凭证”（PHC）的价值，这是一种数字凭证，赋予用户展示他们是真实人类而不是人工智能的能力，而不需要披露任何个人信息。这些凭证可以由各种可信机构——政府或其他机构颁发。根据我们的定义，PHC系统可以是本地的或全球的，不需要基于生物识别。人工智能的两个趋势加剧了这一挑战的紧迫性：一是人工智能在网上与人类越来越难以区分（即逼真的内容和头像、代理活动），二是人工智能的可扩展性越来越强（即成本效益、可访问性）。借鉴对匿名凭证和“人格证明”系统的长期研究，人格凭证为人们在在线平台上表明其可信度提供了一种途径，并为服务提供商提供了减少恶意行为滥用的新工具。相比之下，现有的对抗自动化欺骗的对策——如CAPTCHA——对复杂的人工智能是不足够的，而严格的身份验证解决方案对许多用例来说不够私密。在调查了人格凭证的好处之后，我们还研究了部署风险和设计挑战。最后，我们提出了可操作的下一步行动，供政策制定者、技术人员和标准机构与公众协商考虑。

解决在线匿名性和可信性之间的平衡问题，防止恶意行为和欺诈活动在人工智能的帮助下扩大规模和影响力。

提出了“人格凭证”（PHCs）的概念，这是一种数字凭证，使用户能够向在线服务证明他们是真实的人，而不需要披露任何个人信息。这些凭证可以由各种值得信赖的机构（政府或其他机构）颁发，PHC系统不需要基于生物识别技术。

PHCs为人们在在线平台上展示其可信度提供了一种方式，并为服务提供商提供了减少恶意行为的新工具。同时，论文还探讨了部署风险和设计挑战，并提出了可行的下一步行动。

最近的相关研究包括匿名凭证和“人格证明”系统的研究。