MatterTune: An Integrated, User-Friendly Platform for Fine-Tuning Atomistic Foundation Models to Accelerate Materials Simulation and Discovery

近年来，几何机器学习模型（例如图神经网络）在化学和材料科学的研究中取得了显著的成功，特别是在高通量虚拟筛选和原子模拟等应用中。这些模型的成功可归因于它们能够直接从训练数据中有效地学习原子结构的潜在表示。然而，这也导致了这些模型对数据的高度依赖，限制了它们在数据稀疏问题中的应用，而数据稀少的问题在这一领域非常普遍。为了解决这一局限性，预训练机器学习模型领域的发展日益增多，这些模型已经学会了原子数据中普遍存在的基本几何关系，并可以进一步微调以适应规模更小、特定于应用场景的数据集。特别是，那些在多样化且大规模原子数据集上预训练的模型，在下游任务中展现了令人印象深刻的泛化能力和灵活性，因此越来越多地被称为原子基础模型。为了挖掘这些基础模型尚未开发的潜力，我们引入了 MatterTune，这是一个模块化且可扩展的框架，提供了高级的微调功能，并能够将原子基础模型无缝集成到下游的材料信息学和模拟工作流中，从而降低了使用门槛并促进了材料科学领域的多样化应用。目前，MatterTune 支持多种最先进的基础模型，例如 ORB、MatterSim、JMP 和 EquformerV2，并具备广泛的功能，包括模块化和灵活的设计、分布式及可定制的微调、对下游信息学任务的广泛支持等。

论文试图解决几何机器学习模型在材料科学和化学领域中对大规模数据的依赖问题，特别是在数据稀疏场景下的应用限制。这是一个常见但尚未完全解决的问题。

关键思路是通过预训练原子级基础模型（atomistic foundation models），从大规模、多样化的原子数据中学习通用的几何关系，并通过细调（fine-tuning）将这些模型应用于小规模特定任务数据集。MatterTune框架被提出以支持这一流程，提供模块化设计、分布式训练和广泛的下游任务支持。

论文亮点包括：1) 提出了MatterTune框架，支持多种先进的预训练模型（如ORB、MatterSim、JMP和EquformerV2）；2) 提供了灵活的细调能力和对材料信息学任务的广泛支持；3) 强调降低使用门槛并促进多样化应用；4) 框架设计具有扩展性，便于未来集成更多模型和技术。此外，如果代码开源，将进一步推动社区研究进展。

相关研究包括：1) Graph Neural Networks (GNNs) 在材料科学中的应用；2) 预训练模型在分子和材料建模中的探索，例如DimeNet、Schnet等；3) 最近的基础模型工作如Atom3D、MatErials Graph Transformer (MGT) 和其他专注于几何表示学习的研究；4) 数据集方面，Materials Project、OQMD和QM9等为该领域提供了重要资源。