来源： AI前线

近日，计算机视觉领域世界三大顶会之一的 CVPR 2021 论文接收结果出炉，本次接收率约为 27.3%，竞争十分激烈，腾讯安全研究团队 Blade Team 以其在 AI 安全领域的发现而成功入选。

此次，腾讯 Blade Team 被收录的论文题为 《MagDR：Mask-guided Detection and Reconstruction for Defending Deepfakes》，该论文首次公开了一种能够消除对抗样本对 Deepfake 干扰攻击的方法，该方法对防止深度伪造能力滥用提出了新思考。同时，也可用于提升 AI 图像处理的安全性。

论文链接：https://arxiv.org/abs/2103.14211

其核心思想在于使用一些非监督性指标对对抗样本在 Deepfake 中所生成的结果进行敏感性评估，并且利用人脸属性区域作为辅助信息以及通过对最优防御方法进行搜索组合的方式检测和重建图片，以期能够达到净化原图并保持 Deepfake 输出真实性的目的。

论文显示，腾讯安全研究员选取了 Deepfake 中较为重要的三个任务进行攻防实验，分别为 换脸、人脸属性修改以及表情变换。给原图增加噪声后，所产生的对抗样本尽管对原图进行了修改，但修改的程度明显低于人眼可察觉的水平，而 Deepfake 模型产生的深度伪造视频却已经崩坏，无法以假乱真，其对 Deepfake 带来影响是灾难性的。

但当改为通过 MagDR 框架进行处理时，情况发生了变化。该模型首先对视频中的对抗攻击扰动进行检测，提醒 Deepfake 的使用者，所用图片或视频大概率存在对抗攻击的情况，然后通过重建视频模型，有效地将攻击者注入的对抗扰动进行消除，从而实现 Deepfake 模型相关系统的正常使用。

详情可以戳原文。

内容中包含的图片若涉及版权问题，请及时与我们联系删除