The Shadow of Fraud: The Emerging Danger of AI-powered Social Engineering and its Possible Cure

社会工程学（SE）攻击仍然是个人和组织面临的重大威胁。人工智能（AI）的发展，包括扩散模型和大语言模型（LLMs），可能通过实现更个性化和令人信服的攻击，进一步加剧了这些威胁。本文对SE攻击机制进行分类，分析其演变，并探讨衡量这些威胁的方法。它强调了提高人们对AI增强的SE攻击风险意识的挑战，并提供了开发积极和适应性防御策略的见解。此外，我们将AI驱动的社会工程攻击的演变分类为“3E阶段”：扩大，通过数字媒体的利用扩大攻击规模；丰富，引入新的攻击向量和技术；以及新兴，标志着新的威胁和方法的出现。此外，我们强调了评估AI驱动的SE攻击风险的必要性。通过识别和解决现有研究中的差距，我们旨在指导未来的研究，并鼓励开发更有效的防御措施来应对日益增长的AI驱动社会工程攻击威胁。

本论文旨在研究人工智能增强的社交工程攻击对个人和组织的威胁，并探索测量这些威胁的方法。

论文提出了一种分类社交工程攻击机制的方法，并将AI增强的社交工程攻击演化分为三个阶段，提出了评估AI增强的社交工程攻击风险的框架。

论文介绍了社交工程攻击机制的分类方法，分析了攻击机制的演化，并探讨了防御策略。实验使用了大量语料库，研究了不同类型的社交工程攻击。论文强调了评估AI增强的社交工程攻击风险的重要性。

最近的相关研究包括：《Social Engineering Attacks and Defenses》、《Social Engineering: A Survey and Research Directions》等。