Toxic Memes: A Survey of Computational Perspectives on the Detection and Explanation of Meme Toxicities

简介

互联网迷因作为幽默、社会评论和文化表达的渠道，越来越被用于传播有害信息。在过去五年中，关于有害迷因的计算分析研究显著增长，但仅有的三项关于计算有害迷因分析的调查只涵盖到2022年发表的论文，导致术语不一致和未被探索的趋势。本研究通过调查基于内容的计算视角下的有害迷因，并回顾到2024年初的关键发展，填补了这一空白。采用PRISMA方法，我们系统地扩展了之前考虑过的论文，取得了三倍的结果。首先，我们调查了119篇新论文，分析了158篇基于内容的有害迷因分析的计算作品。我们确定了在有害迷因分析中使用的30多个数据集，并检查了它们的标记系统。其次，在观察到计算作品中有关迷因有害性的不清晰定义后，我们引入了一种新的分类迷因有害性类型的分类法。我们还注意到，计算任务已经超出了将迷因简单地分类为有害或非有害，表明了对有害性的细致理解。第三，我们确定了自动研究下有害迷因的三个基于内容的维度：目标、意图和传达策略。我们开发了一个框架，说明了这些维度与迷因有害性之间的关系。该调查分析了关键挑战和最新趋势，如增强的跨模态推理、整合专家和文化知识、自动有害性解释的需求以及处理低资源语言中的迷因有害性。此外，它注意到了大型语言模型（LLMs）和生成AI用于检测和生成有害迷因的日益增长。最后，它提出了推进有害迷因检测和解释的途径。

图表

解决问题

对有害互联网模因的自动检测和解释

关键思路

提出了一个新的分类模式来对互联网模因的有害程度进行分类，同时探讨了三个有害程度的维度：目标、意图和传达策略。

其它亮点

论文系统地调查了158项针对基于内容的有害互联网模因分析的计算方法，并识别了超过30个数据集。此外，论文提出了一个新的分类模式，探讨了三个有害程度的维度，并开发了一个框架，以说明这些维度和模因有害程度之间的关系。