Blessing or curse? A survey on the Impact of Generative AI on Fake News

假新闻对我们的社会产生了重大影响，它们影响了消费者、选民和许多其他社会群体。虽然假新闻存在已有几个世纪，但生成式人工智能将假新闻带到了一个新的水平。现在可以自动化地创建大量高质量的个性化假新闻。另一方面，生成式人工智能也可以帮助检测假新闻。这两个领域都很年轻，但发展迅速。 本次调查全面检查了2024年生成式人工智能在假新闻检测和创作方面的研究和实际应用。遵循结构化文献调查方法，本文综合了以下主题集群的当前研究结果：1）支持技术，2）假新闻的创作，3）以社交媒体为最相关分发渠道的案例研究，4）假新闻的检测，以及5）即将到来的深度伪造技术。 本文还确定了当前的挑战和未解决的问题。

Generative AI在制造和检测假新闻方面的应用。论文试图综合当前Generative AI在假新闻检测和制造方面的研究成果。

论文采用结构化文献综述的方法，将当前Generative AI在假新闻检测和制造方面的研究成果综合到五个主题集群中，并探讨了相关技术、社交媒体作为最重要的分发渠道、Deepfakes等新技术的发展。

论文提出了Generative AI在制造和检测假新闻方面的应用前景，并探讨了当前的挑战和未来的研究方向。实验采用了多个数据集，并对当前的技术进行了综合评估。

最近的相关研究包括：'A Survey of Deep Learning for Fake News Detection'，'Detecting Fake News on Social Media using Geometric Deep Learning'，'Fake News Detection on Social Media: A Data Mining Perspective'等。