BioMedGPT-Mol: Multi-task Learning for Molecular Understanding and Generation

分子在生物医学研究与发现中发挥着关键作用，尤其是在小分子药物开发领域。随着大语言模型的快速发展，特别是近期推理模型的兴起，探索如何高效地将通用语言模型适配于分子科学应用成为一种自然的选择。在本研究中，我们提出了BioMedGPT-Mol，这是一种专为支持分子理解与生成任务而设计的分子语言模型。通过整理并整合现有的公开指令数据集，我们构建了一个大规模、全面且高质量的训练数据集，并在此基础上采用精心设计的多任务学习框架对模型进行微调。在基于LlaSMol、TOMG-Bench和MuMOInstruct整合而成的统一基准测试中，BioMedGPT-Mol取得了显著的性能表现。实验结果表明，一个通用的推理模型可以通过结构良好的多任务课程学习，被有效且高效地后训练为专业的分子语言模型。基于这些能力，我们进一步将该模型应用于多步逆合成路线规划，在RetroBench上达到了最先进的性能，展现出其作为端到端逆合成规划工具的卓越效能。我们预期，本研究所提出的方法可进一步拓展至其他生物医学科学领域。

论文旨在解决如何将通用大语言模型高效地适配到分子科学领域，特别是小分子药物研发中的分子理解与生成任务。尽管大语言模型在自然语言处理中取得了显著进展，但将其推理能力迁移到专业科学领域（如分子化学）仍是一个新兴且具有挑战性的问题。

提出BioMedGPT-Mol，一个通过多任务指令微调框架将通用推理模型转化为专业分子语言模型的方法。其关键创新在于构建了一个大规模、统一的分子指令数据集，并采用结构化的多任务课程学习策略，使模型能够同时掌握分子理解与生成能力，而无需依赖专门的分子编码架构。

在整合自LlaSMol、TOMG-Bench和MuMOInstruct的综合基准上表现优异；在多步逆合成规划任务中，在RetroBench上达到SOTA性能，展现出强大的端到端规划能力；模型基于公开数据集训练，强调可复现性和泛化性；工作为通用模型向生物医学子领域的迁移提供了范式，值得进一步拓展至蛋白质设计、基因调控等方向。

1. Molecule-LLM: Empowering Large Language Models with Molecular Knowledge 2. LlaSMol: Aligning Large Language Models with Customized Molecule Foundation Model 3. TOMG-Bench: A Benchmark for Evaluating AI in Molecular Generation and Optimization 4. MuMOInstruct: Multimodal Molecule Instruction Tuning for Chemical Reasoning 5. RetroBench: A Standardized Benchmark for Retrosynthetic Planning