Fake Artificial Intelligence Generated Contents (FAIGC): A Survey of Theories, Detection Methods, and Opportunities

近年来，以大型语言模型（LLMs）和扩散模型（DMs）为代表的生成式人工智能模型已经彻底改变了内容生产方法。这些人工智能生成的内容（AIGC）已经深入到日常生活和工作的各个方面，涵盖了文本、图像、视频和音频。AI生成内容的真实性正在逐步提高，接近于人类的创造标准。然而，这些技术也导致了虚假人工智能生成的内容（FAIGC）的出现，给真伪信息的区分带来了新的挑战。认识到AIGC技术就像一把双刃剑，它强大的生成能力虽然有益，但也存在着创造和传播虚假内容的风险。在这项调查中，我们提出了一个新的分类法，更全面地分解了今天FAIGC方法的空间。接下来，我们探讨了FAIGC的模态和生成技术，分为AI生成的虚假信息和AI生成的错误信息。从各种角度出发，我们介绍了FAIGC检测方法，包括欺骗性FAIGC检测、深度伪造检测和幻觉型FAIGC检测。最后，我们讨论了未解决的挑战和未来研究的有前途的领域。

探讨人工智能生成内容中存在的虚假信息问题，提出FAIGC的分类和检测方法

提出FAIGC的分类方法，分为AI生成的虚假信息和误导性信息，介绍了欺骗性FAIGC检测、Deepfake检测和幻觉型FAIGC检测等方法

论文提出了新的FAIGC分类方法，对不同类型的虚假信息进行了详细的分类和探讨，同时介绍了多种FAIGC检测方法，包括基于欺骗性、Deepfake和幻觉型的检测方法，对未来研究提出了展望。

最近的相关研究包括：《Deepfake Detection: A Review》、《Detecting GAN-generated Fake Images Using Co-occurrence Matrices》、《A Survey on Deep Learning for Fake News Detection》等。