Large Language Model Lateral Spear Phishing: A Comparative Study in Large-Scale Organizational Settings

钓鱼邮件的重要威胁已经被LLM进一步恶化，因为LLM可以生成高度定向、个性化和自动化的鱼叉式网络钓鱼攻击。关于LLM促成的钓鱼的两个关键问题需要进一步研究：1）现有的横向钓鱼研究缺乏针对整个组织大规模攻击的LLM集成的具体研究，2）当前的反钓鱼基础设施尽管经过了广泛的开发，但缺乏防止LLM生成的攻击的能力，可能影响员工和IT安全事件管理。然而，进行这样的调查研究需要一个真实的工作环境，在常规业务操作期间运作，并反映大型组织基础设施的复杂性。这种环境还必须提供所需的灵活性，以促进各种实验条件的多样性，特别是包括LLM制作的钓鱼邮件。本研究是对使用大型语言模型（LLM）创建针对大约9,000名工作人员的大型一流大学的操作和工作人员的有针对性的横向钓鱼邮件的探索，历时11个月。它还评估了电子邮件过滤基础设施检测此类LLM生成的钓鱼尝试的能力，提供了有关其有效性的见解，并确定了潜在的改进领域。根据我们的发现，我们提出了基于机器学习的检测技术，用于检测现有基础设施错过的LLM生成的钓鱼邮件，F1分数为98.96。

本论文试图探讨使用LLMs制造高度定制化、自动化的钓鱼邮件的潜在威胁，并评估现有反钓鱼基础设施对此类攻击的检测能力。

通过在大型组织中进行11个月的实验，论文提出了基于机器学习的检测技术来检测LLM制造的钓鱼邮件，并获得了高达98.96的F1分数。

论文在大型组织中进行了11个月的实验，提出了新的解决方案并获得了高效的结果。研究还评估了现有反钓鱼基础设施的能力，并提出了改进的建议。论文的数据集和代码都是开源的。

最近的相关研究包括：1）关于钓鱼邮件的传统方法，2）使用机器学习技术来检测钓鱼邮件的研究，3）对反钓鱼基础设施进行评估的研究。