Humanizing Machine-Generated Content: Evading AI-Text Detection through Adversarial Attack

随着大型语言模型（LLMs）的发展，检测文本是否由机器生成在面对恶意用例如散布虚假信息、保护知识产权和防止学术抄袭方面变得越来越具有挑战性。虽然经过良好训练的文本检测器在未见过的测试数据上表现出了有希望的性能，但最近的研究表明，这些检测器在处理诸如改写等对抗性攻击时存在漏洞。在本文中，我们提出了一个框架，针对更广泛的对抗性攻击类型，旨在对机器生成的内容进行微小扰动以逃避检测。我们考虑了两种攻击设置：白盒和黑盒，并在动态场景中采用对抗学习来评估当前检测模型的鲁棒性对此类攻击的潜在增强。实证结果表明，当前的检测模型可以在短短10秒内被破坏，导致将机器生成的文本误分类为人类撰写的内容。此外，我们探讨了通过迭代对抗学习来提高模型鲁棒性的前景。虽然观察到了一些模型鲁棒性的改进，但实际应用仍面临着重大挑战。这些发现为未来AI文本检测器的发展提供了启示，强调了需要更准确、更鲁棒的检测方法。

研究如何对抗机器生成的文本中的对抗攻击，以提高文本检测模型的鲁棒性。

论文提出了一个框架，用于对抗攻击，以评估当前检测模型的鲁棒性，并探索通过迭代对抗学习来提高模型的鲁棒性。

论文在两个攻击设置下进行了实验：白盒和黑盒，并使用动态场景中的对抗学习来评估模型的鲁棒性。结果表明，当前的检测模型在10秒内就可以被攻击者破坏，将机器生成的文本误分类为人类写作的内容。虽然通过迭代对抗学习可以提高模型的鲁棒性，但实际应用仍面临重大挑战。

在该领域的相关研究包括：1. "Adversarial Attacks and Defenses in Deep Learning"；2. "Adversarial Examples in the Physical World"；3. "Text Adversarial Attack and Defense Method Based on Generative Adversarial Networks"。