Large Language Model Agent for Fake News Detection

在当前数字化时代，网络平台上虚假信息的快速传播给社会福祉、公众信任和民主进程带来了重大挑战，影响了关键决策和公众舆论。为了应对这些挑战，需要自动化的虚假新闻检测机制。预训练的大型语言模型（LLM）在各种自然语言处理（NLP）任务中展示了出色的能力，促使人们探索它们在验证新闻报道方面的潜力。我们的工作引入了FactAgent，一种利用LLM进行虚假新闻检测的机制，而不是以非代理方式使用LLM，在单次提示下生成响应。FactAgent使LLM能够在没有任何模型训练的情况下，遵循结构化工作流程，模拟人类专家验证新闻报道的行为。这个工作流程将新闻真实性检查的复杂任务分解为多个子步骤，LLM使用其内部知识或外部工具完成简单任务。在工作流程的最后一步，LLM整合整个工作流程中的所有发现，以确定新闻报道的真实性。与人工验证相比，FactAgent提供了更高的效率。实验研究证明了FactAgent在验证声明方面的有效性，而无需任何培训过程。此外，FactAgent在工作流程的每个步骤和最终决策过程中提供透明的解释，为最终用户提供有关虚假新闻检测推理过程的见解。FactAgent非常适应性强，可以通过LLM在工作流程中利用其工具以及使用领域知识更新工作流程本身。这种适应性使FactAgent可以在各种领域应用于新闻验证。

论文旨在解决在线平台上虚假信息传播的问题，提出了一种利用大型语言模型进行虚假新闻检测的方法。

FactAgent是一种基于大型语言模型的代理方法，通过结构化工作流程使大型语言模型模拟人类专家的行为，从而实现虚假新闻检测。该方法不需要进行模型训练，可以实现高效的虚假新闻检测。

论文通过实验验证了FactAgent的有效性，并提供了透明的解释，展示了虚假新闻检测的推理过程。FactAgent具有高度的适应性，可以应用于各种领域的新闻验证，并且可以通过更新工具和工作流程来进行改进。

在这个领域中，最近的相关研究包括利用深度学习进行虚假新闻检测、基于知识图谱的虚假新闻检测等。