MolSafeEval：揭示人工智能生成分子安全风险的基准

论文题目：MolSafeEval: A Benchmark for Uncovering Safety Risks in AI-Generated Molecules

本文作者：Tong Xu（Zhejiang University）,Xinzhe Cao（University of Oxford）,Zhihui Zhu（ZJU-Hangzhou Global Scientific and Technological Innovation Center）,Keyan Ding（Zhejiang University）,Huajun Chen（Zhejiang University）

发表会议：ACL 2026 Findings

论文链接：https://arxiv.org/abs/2607.00464

代码链接：敬请期待

欢迎转载，转载请注明出处

近年来，深度生成模型在分子设计领域得到广泛应用，加速了药物发现和材料科学的探索进程。随着分子生成模型在任务类型和数据集上的日益多样化，公平比较模型性能面临挑战。尽管已有大量基准测试对分子优化和复杂设计问题进行了标准化评估，一个关键缺口依然存在：生成分子的安全性极少被系统评估。实践中，模型可能提出有毒、易反应或具有其他危害的化合物。人工智能生成分子的两面性虽已引发关注，但仍缺乏系统性的分子安全评估基准，这阻碍了生成模型从概念验证研究向安全可信部署的过渡。

针对上述问题，我们提出MolSafeEval以对生成分子安全性进行系统性评估。分子安全评估的核心难点在于风险来源异质性强——涵盖药物毒性到化学危害等多个层面，且分散于毒理学数据集、监管标准和化学危害报告中，简单基于预测器的过滤器无法捕捉这种多样性。为此，MolSafeEval构建了MolSafeKG，一个结构化的分子安全知识图谱，整合了超过80,000种危险化合物及其毒理学和危害注释。通过将该资源与大语言模型推理能力相结合，评估框架既可检测生成分子具有的潜在安全隐患，又能生成可解释的安全评估依据。MolSafeEval在四类代表性任务上评估分子生成模型：无条件生成、性质优化、基于靶蛋白的设计和基于文本描述生成。每项任务均提供标准化数据集，每个生成分子经过多步分析：结构解析、基于相似性的MolSafeKG检索、以及大语言模型驱动的风险预测与解释。我们使用MolSafeEval对四类共28种最先进分子生成模型进行了大规模安全评估，揭示了现有模型中大量隐藏风险，为分子生成模型的治理和AI在分子发现中的负责任部署提供了关键见解。

我们构建了一个评估框架，将MolSafeKG中的结构化安全知识与大语言模型（LLM）在分子安全评估中的推理能力相结合。我们的方法由三个核心组成部分构成：构建分子安全知识图谱；一种检索增强机制，用于将新生成的分子与已知的危险类似物关联起来；基于LLM的推理流程，通过综合检索到的安全证据来预测潜在风险。

我们首先构建了一个结构化的分子安全知识图谱MolSafeKG，作为安全评估的基础知识库。该知识图谱整合了三种主要类型的信息：分子实体、结构特征和安全注释。分子实体包含从权威来源整理出的83,925种独特化合物，其中包括欧洲化学品管理局（ECHA）根据全球化学品统一分类制度（GHS）认定为具有危害性的42,275种化合物，以及来自已建立毒性预测数据集中与不良药物反应相关的分子。为了支持结构推理和相似性匹配，我们编码了丰富的化学子结构信息，包括117种化学元素、149种官能团，以及434个结构警报。在安全评估方面，我们采用双视角框架，涵盖化学危害和药物毒理两方面，纳入了68条GHS危害声明，覆盖三大主要类别（物理、健康和环境风险），以及药物研发中常见的8项关键毒性终点指标。

给定一个新生成的分子，我们采用检索机制从MolSafeKG中识别出结构相关的危险类似物。该过程首先使用RDKit进行分子特征提取和结构解析。根据安全相关性维度（毒性或危害），我们再利用Tanimoto系数作为相似度度量，从MolSafeKG中检索出最相似的前n个分子。这一检索步骤揭示了后续分析中最相关的安全信息。所检索到的化合物及其安全注释，可作为上下文证据，指导下游基于大语言模型的风险评估。

基于获取的证据，我们采用基于大语言模型的推理流程，对输入分子进行信息合成并预测其安全风险。该流程将生成分子的结构表示与检索到的类似物的安全知识相结合。LLM被引导分析输入分子与已知有害化合物之间的关系，识别共有的结构特征及其相应的安全影响。这一过程生成了全面的安全评估结果，不仅能够识别潜在风险，还能为预测结果提供文字解释。

我们首先对我们的分子安全评估框架的可靠性进行了评测，随后使用它对四类共28种最先进分子生成模型进行了大规模安全评估。

我们比较了使用五种不同LLM作为基础模型与直接采用通用LLM进行安全评估但未集成知识图谱（KG）的基准模型进行分子安全评估的准确率。结果表明，我们的框架显著提升了基于LLM的分子安全评估的可靠性。当以DeepSeek-V3作为骨架模型时，该框架在毒性评估任务中平均准确率超过80%。我们的框架在能达到专为毒理学预测任务设计和验证的毒性预测方法相当的性能的同时可以提供文本解释，从而增强结果的可解释性。此外，利用知识图谱存储毒性相关信息，使得我们的方法能够更轻松地进行更新和优化，并可推广到更广泛的任务领域。这仅需对图谱中的分子和毒理学知识进行定期更新和维护。

毒性评估结果表明，当前模型生成的分子存在显著的毒性风险。部分生成的分子模型在呼吸毒性方面的预测比例甚至超过了90%。对于无条件分子生成的模型，其毒性风险更为严重。这一令人担忧的趋势很可能源于这些模型主要聚焦于探索新的分子结构组合，从而无意中增加了潜在毒性。在毒性类别方面，呼吸毒性是最突出的隐患，而致癌性和致突变性则相对较低。这很可能是由于这些分子生成模型所使用的训练数据中包含大量具有呼吸毒性的分子所致。此外，不同毒性指标下的风险差异也十分显著。因此，在评估这些模型生成分子的安全性时，确保全面性同样至关重要。

危害评估结果表明，在三个不同的危害类别中，分子生成过程中面临的物理危害最小。这一现象可能归因于物理危害通常来自高反应性或易爆的功能基团，这些基团在QED分析等早期筛选阶段即可被有效过滤。因此，这类有害分子很少出现在分子生成模型的训练数据中。相比之下，健康和环境危害对生成分子构成更为显著的挑战。仅有少数模型生成的分子在健康和环境方面比KG中已知的有害分子更安全。然而，即使对于这些模型，生成分子的安全问题仍然不容忽视。相对较低的平均安全评分并不能保证不存在高风险分子，这一点从评估结果中的最大值和方差即可看出。任何具有高安全风险的生成分子都应明确标注或排除在实际应用之外。这些发现凸显了对生成模型所产分子进行严格的安全评估和筛选的迫切需求。

本文提出了MolSafeEval，这是首个专为评估AI生成分子安全性而设计的基准测试。通过我们的安全评估框架对28种先进的分子生成模型进行系统性评测，我们揭示了AI生成分子中存在的关键安全隐患，凸显了在分子生成中融入明确安全措施的必要性。我们相信，MolSafeEval将成为分子生成模型安全监管的重要参考，推动AI在分子设计与发现领域中负责任且安全地部署应用。