BioReason: Incentivizing Multimodal Biological Reasoning within a DNA-LLM Model

从复杂的基因组数据中解锁深层、可解释的生物推理，是当前阻碍科学发现的重大人工智能挑战。现有的DNA基础模型尽管在序列表示方面表现出色，但在多步骤推理方面存在困难，并且缺乏内在的、生物学上直观的解释能力。我们提出了BioReason，这是一种开创性的架构，首次将DNA基础模型与大型语言模型（LLM）深度集成。这种新颖的连接使LLM能够直接处理和推理基因组信息作为基本输入，从而促进了一种新的多模态生物理解形式。通过监督微调和有针对性的强化学习，BioReason发展出了 sophisticated 的多步骤推理能力，引导系统生成逻辑严密、生物学上连贯的推论。在生物推理基准测试中，包括基于KEGG的疾病通路预测（准确率从88%提升到97%）和变异效应预测，BioReason相较于强大的单模态基线模型平均性能提升了15%。BioReason能够对未见过的生物实体进行推理，并通过可解释的、逐步的生物轨迹阐明决策过程，为生物学中的AI提供了一种变革性的方法，使更深层次的机制洞察成为可能，并加速了从基因组数据生成可验证假设的过程。数据、代码和检查点已公开发布于 https://github.com/bowang-lab/BioReason。

该论文试图解决从复杂基因组数据中提取深度、可解释的生物推理问题，这是当前AI在生物学领域面临的主要挑战之一。尽管现有的DNA基础模型能够很好地表示序列信息，但它们在多步推理和提供透明、直观的生物解释方面存在不足。这是一个长期存在的问题，而本文提出了一种新的解决方案。

论文的关键思路是通过将DNA基础模型与大型语言模型（LLM）深度融合，构建了一个名为BioReason的新架构。这种架构使LLM能够直接处理和推理基因组信息，从而实现多模态的生物理解。相比现有研究，BioReason不仅提升了推理能力，还通过监督微调和强化学习生成了逻辑性强且生物上连贯的推论，同时提供了可解释的逐步生物痕迹。

1. 在KEGG疾病通路预测任务中，准确率从88%提升到97%，平均性能比单一模态基线高出15%；2. BioReason可以对未见过的生物实体进行推理，并清晰地表达其决策过程；3. 所有数据、代码和检查点均已开源（https://github.com/bowang-lab/BioReason），为后续研究提供了便利；4. 论文展示了BioReason在多种生物推理基准上的强大表现，表明其具有广泛的应用潜力。

近期相关研究包括：1. DeepMind的AlphaFold系列工作，专注于蛋白质结构预测；2. Meta的ESM系列模型，探索蛋白质序列嵌入及其应用；3. Google的Pathway Discovery工具，利用图神经网络预测代谢通路；4. 其他类似研究如'Genformer: A Pre-trained Deep Learning Architecture for Genomics' 和 'ProteinMPNN: A Fast and Accurate Method to Design Proteins'，分别关注基因组预训练模型和蛋白质设计问题。这些研究共同推动了AI在生物学领域的快速发展。