白宫希望大型人工智能公司披露何时使用人工智能创建内容，很快，欧盟将要求一些技术平台将其人工智能生成的图像、音频和视频贴上“突出标记”的标签，以披露其合成来源。

然而，有一个大问题：识别由人工智能创建的材料是一个巨大的技术挑战。目前可用的最佳选项——由人工智能驱动的检测工具和水印——不一致、无常，有时不准确。（事实上，就在本周，由于错误率高，OpenAI关闭了自己的人工智能检测工具。）

但最近另一种方法引起了人们的注意：C2PA。它于两年前推出，是一种开源的互联网协议，依靠密码学来编码有关内容来源的详细信息，或技术人员所说的“证明”信息。

C2PA的开发人员经常将协议与营养标签进行比较，但该标签上写着内容来自哪里，谁或什么创建了它。

该项目是非营利性联合开发基金会的一部分，由Adobe、Arm、英特尔、微软和Truepic发起，它们成立了内容来源和真实性联盟（C2PA因此而得名）。现在有1500多家公司通过紧密关联的开源社区内容真实性倡议（CAI）参与该项目，包括尼康、英国广播公司和索尼等多样化和杰出的公司。

最近，随着对人工智能检测和监管的兴趣加剧，该项目一直在蓬勃发展；C2PA主席Andrew Jenks表示，在过去六个月中，会员人数增加了56%。主要媒体平台Shutterstock已加入成为会员，并宣布打算使用该协议标记其所有人工智能生成的内容，包括其DALL-E驱动的人工智能图像生成器。

Shutterstock的首席技术官Sejal Amin在一封电子邮件中告诉麻省理工学院技术评论，该公司正在通过“支持开发和创建更大透明度的系统和基础设施来保护艺术家和用户，以轻松识别艺术家的创作与人工智能生成或修改的艺术。”

什么是C2PA，它是如何使用的？微软、英特尔、Adobe和其他主要科技公司于2021年2月开始开发C2PA，希望创建一个通用互联网协议，允许内容创建者选择用其来源的信息来标记其视觉和音频内容。（至少目前，这不适用于基于文本的帖子。）

至关重要的是，该项目旨在通过互联网进行适应性和功能性，基本计算机代码可供任何人访问和免费使用。

销售内容验证产品的Truepic已经演示了该协议如何与Revel.ai的深度伪造视频配合使用。当观众将鼠标悬停在屏幕右上角的小图标上时，会出现一个关于视频的信息框，其中包含“包含人工智能生成的内容”的披露。

Adobe还已将C2PA（它称为内容凭据）集成到其几个产品中，包括Photoshop和Adobe Firefly。Adobe内容真实性倡议高级总监、C2PA项目负责人Andy Parsons说：“我们认为这是一种增值，可能会吸引更多客户使用Adobe工具。”

C2PA是通过加密保护的，加密依赖于一系列代码和密钥来保护信息不被篡改，并记录信息的来源。Jenks说，更具体地说，它通过一组通过加密绑定到每个像素的散列对来源信息进行编码来工作，Jenks还领导微软在C2PA方面的工作。

与人工智能检测系统相比，C2PA提供了一些关键优势，该系统使用人工智能来发现人工智能生成的内容，并反过来可以学习更好地逃避检测。它也是一个更标准化的系统，在某些情况下，比水印更容易查看，水印是用于识别人工智能生成内容的另一种突出技术。Jenks说，该协议也可以与水印和人工智能检测工具一起工作。

来源信息的价值

在媒体中添加来源信息以打击错误信息不是一个新想法，早期研究似乎表明，它可能很有希望：例如，牛津大学硕士生的一个项目发现，有证据表明，当用户在访问有关内容的来源信息时，不太容易受到错误信息的影响。事实上，在OpenAI关于其人工智能检测工具的更新中，该公司表示，它正在专注于其他“证明技术”，以满足披露要求。

也就是说，来源信息远非一个解决一切的解决方案。信息完整性中心主任、纽约布法罗大学教授Siwei Lyu说，C2PA不具有法律约束力，如果不要求在互联网上采用该标准，将存在无标签的人工智能生成内容。他说：“缺乏船外绑定力是这项工作的内在漏洞，”尽管他强调该项目仍然很重要。

此外，由于C2PA依赖于创作者选择加入，该协议并没有真正解决不良行为者使用人工智能生成的内容的问题。当涉及到公众的媒体流畅性时，提供元数据有多大帮助尚不清楚。来源标签不一定提到内容是真实还是准确。

归根结底，该联盟最重要的挑战可能是鼓励在整个互联网生态系统中广泛采用，特别是通过社交媒体平台。例如，该协议的设计使照片从相机捕捉到照片到社交媒体上时编码的来源信息。但如果社交媒体平台不使用该协议，它将不会显示照片的来源数据。

主要社交媒体平台尚未采用C2PA。推特已经签署了该项目，但在埃隆·马斯克接手后退出了。（推特还停止参与其他专注于遏制错误信息的志愿者项目。）

帕森斯说，C2PA“[不是]灵丹妙药，它不能解决我们所有的错误信息问题，但它确实为共同的客观现实奠定了基础。”“就像营养标签的比喻一样，在购买含糖麦片之前，你不必查看营养标签。

“在Meta上共享之前，你不必知道某物来自哪里，但你可以。我们认为，鉴于生成媒体的惊人能力，做到这一点的能力至关重要。”

内容中包含的图片若涉及版权问题，请及时与我们联系删除