AI-Face: A Million-Scale Demographically Annotated AI-Generated Face Dataset and Fairness Benchmark

AI生成的人脸已经丰富了人类的生活，例如娱乐、教育和艺术。然而，它们也带来了滥用的风险。因此，检测AI生成的人脸变得至关重要，但目前的检测器在不同人口群体之间表现出偏见。通过设计算法公平性方法来缓解偏见，通常需要对模型进行人口统计学注释的人脸数据集进行训练。然而，目前不存在包含人口属性和不同生成方法的全面数据集，这阻碍了为AI生成的人脸开发公平检测器的发展。在这项工作中，我们介绍了AI-Face数据集，这是第一个包含真实人脸、DeepFake视频中的人脸以及由生成对抗网络和扩散模型生成的AI生成人脸图像的百万级人口统计学注释数据集。基于这个数据集，我们进行了第一个全面的公平性基准测试，评估了各种AI人脸检测器，并提供了有价值的见解和发现，以促进未来AI人脸检测器的公平设计。我们的AI-Face数据集和基准代码已经公开发布在https://github.com/Purdue-M2/AI-Face-FairnessBench。

解决问题：本论文旨在解决AI生成人脸检测器的公平性问题，即如何设计一种公平的检测器，能够准确检测出AI生成的人脸，同时避免对不同人群的偏见。

关键思路：该论文提出了AI-Face数据集，其中包含了100万张AI生成的人脸图像，包括deepfake视频中的人脸、生成式对抗网络和扩散模型生成的人脸，以及真实人脸。通过该数据集，作者进行了公平性评估，比较了不同的AI人脸检测器的性能，并提供了有价值的洞见和发现。

其他亮点：该论文是第一个使用大规模人口统计学注释的AI生成人脸图像数据集，对于未来的公平AI生成人脸检测器的设计具有重要意义。作者还开源了AI-Face数据集和基准代码，方便其他研究人员使用。值得深入研究的工作包括如何进一步提高AI生成人脸检测器的公平性和准确性。

相关研究：最近在这个领域中，还有一些相关的研究，例如《Deepfake Detection Challenge Dataset》、《DeepFake Detection Challenge (DFDC)》等。