Beyond Deepfake Images: Detecting AI-Generated Videos

最近发展的生成式人工智能技术已经导致了生成视觉逼真的合成视频的技术的发展。虽然已经开发了一些技术来检测人工智能生成的合成图像，但是在本文中，我们展示了合成图像检测器无法检测合成视频。我们证明这是因为合成视频生成器引入了与图像生成器留下的迹线明显不同的迹线。尽管如此，我们展示了合成视频迹线可以被学习，并且可以用于进行可靠的合成视频检测或生成器来源归因，即使在H.264重新压缩之后。此外，我们展示了通过零样本可迁移性检测新生成器的视频是具有挑战性的，但通过少量样本学习可以实现对新生成器的视频的准确检测。

论文旨在研究生成AI生成的合成视频的检测问题。此前的研究已经可以检测到生成AI生成的合成图像，但是无法检测到生成的合成视频。作者试图解决这个问题并验证其可行性。

论文提出了一种基于学习的方法，可以检测生成AI生成的合成视频。作者发现，合成视频生成器会留下与图像生成器不同的痕迹，这些痕迹可以被学习并用于检测合成视频的生成器。

论文设计了实验来验证其方法的可行性，并使用了公开数据集进行实验。作者还展示了他们的方法可以在H.264重新压缩后进行检测，而且可以通过少量学习来检测新生成器生成的合成视频。

最近的相关研究包括使用GAN生成的图像的检测，例如PixelCNN和Spectral Normalization for GANs，以及使用深度学习技术进行视频分析的研究，例如Two-Stream Convolutional Networks和Spatiotemporal Multiplier Networks。