今晚(2月29日)19:00，《追AI的人》系列直播第36期邀请了阿里巴巴安全部媒体安全技术研究团队刘佳睿分享《解密全网爆火的Sora：如何区分真实与AI生成内容？》

本期热点讨论

💙 "硅基创世主"Sora来临，现实是否还将存在？

💙 Sora是什么？Sora主要的特点是？

💙 它是如何炼成的？Sora存在的局限性与风险？

💙 Sora对内容创作职业的未来可能产生什么样的影响？

提前预习

直播详情点击👉解密全网爆火的Sora：如何区分真实与AI生成内容？《追AI的人》第36期来啦！

本期内容干货满满，为了让大家更好地吸收知识，AAIG课代表和大家课前预习，一起先来看一下阿里巴巴安全部在图文取证检测方向上的一些应用实践吧👇

那么如何一眼识破P图呢？被动取证技术包含三个妙招。

首先是原图识别技术，它主要回答的问题是图像是否为相机拍摄的原图。例如，通过分析图像的头文件，我们可以发现是否存在Photoshop标记，从而怀疑图像不是相机拍摄的原图。

第二个妙招是图像的篡改检测技术，它主要用于检测图像内容是否被篡改，以及确定具体的篡改位置。通过这项技术，我们可以看到刚才展示的背景图像的篡改区域。

最后是来源识别技术，它主要回答图像的拍摄来源。如果我们知道图像的来源，是否可以进一步分析图像的篡改手法呢？我们可以将这个过程类比为破案的过程，就像侦探在破案过程中提出问题是否发生了案件一样。这些妙招可以帮助我们识别P图，揭示图像背后的真相。

具体来看，在阿里的业务流程中进行原创保护，整个流程已经在安全团队的精心设计下非常完善了。原图识别主要承担两个方面的作用。

首先，当有人投诉并提供一张图像来质疑原创性时，需要验证投诉方提供的材料是否为相机拍摄的原始图像。如果投诉方的材料不是相机原图，我们可以驳回其投诉申请。

其次，如果投诉方的材料通过了原图的验证，我们需要考虑被投诉作者的材料是否存在盗图的可能性。这时，我们会对被投诉的材料进行原图识别，并借助阿里安全团队开发的图比图技术来识别是否存在盗图情况。

接下来介绍，我们自研AIGC检测方法，使用自己收集的数据集进行训练。回到之前的例子，我们可以检测出这张美女照片是真实的还是AI生成的。比如前面提到的艺术家的作品是真人绘画，而通过Stable Diffusion生成的照片是伪造的。

此外，可能在以后的电影中，赌博广告或黄色小卡片上的美女并不是真人，而是通过AI生成的。例如，我们可以做一些演示，输入提示词“性感美女荷官在线发牌，澳门赌场”就可以上批量生成这样的AI美女荷官，而我们的算法也可以检测到这些伪造的图像。

除了之前提到的六种被动检测方法，还有一种基于数字使用的主动检测方法，即由阿里橙盾科技团队参与编写的《 AI生成内容标识方法》，即将出台。我们的团队也提供了相应的数据水印标识支持。利用数字水印，类似于主动篡改定位，我们可以判断一张图像是否包含AI生成图像的水印标志，从而实现对AI生成图像的溯源检测。同时在视觉上，插入水印后与原图并无区别。

阿里巴巴媒体安全团队自研了一套丰富的图像篡改检测技术和系统，依托阿里的各种业务场景。下面将具体介绍我们在阿里遇到的一些场景。首先是“PS门脸”的检测，主要用于解决在一些平台或地图软件上出现的虚假门店或网游诈骗情况。

例如，我们之前捕获的一张图是一张伪造的案例。该用户明明位于合肥，但是通过我们的算法检测发现该图被篡改了。该用户通过PS门脸和其他认证信息，在北京的环球影城里新增了一个伪造的环球度假旅游咨询点，并在上面贴了一个诈骗电话。经过我们的算法检测捕获这个案例后，我们进一步核实发现这确实是一个伪造门店的信息。通过我们的算法，可以有效避免或降低这种伪造门店的风险。