FlowLLM: Flow Matching for Material Generation with Large Language Models as Base Distributions

材料发现是一个关键的研究领域，有可能在碳捕获、可再生能源和电子等领域带来革命性的变化。然而，化学空间的巨大规模使得实验探索所有可能的材料变得极具挑战性。在本文中，我们介绍了一种名为FlowLLM的新生成模型，该模型结合了大型语言模型（LLMs）和黎曼流匹配（RFM）技术来设计新型晶体材料。FlowLLM首先对一个大型语言模型进行微调，以学习文本表示中的亚稳态晶体的有效基础分布。将这些样本转换为图表示后，RFM模型会从LLM中取样，并迭代地优化坐标和晶格参数。我们的方法显著优于现有最先进方法，稳定材料的生成率提高了三倍以上，而稳定、独特且新颖的晶体生成率则提高了约50%——这在这一难题上是一个巨大的进步。此外，与另一领先模型相比，FlowLLM生成的晶体更接近其弛豫状态，显著降低了后续计算成本。

论文试图解决材料发现中的挑战，特别是如何高效地生成稳定、独特且新颖的晶体材料。这是一个长期存在的问题，因为化学空间的巨大规模使得实验探索所有可能的材料变得极其困难。

论文提出了一种名为FlowLLM的新方法，结合了大型语言模型（LLMs）和黎曼流匹配（RFM）技术。首先，通过细调LLM学习稳定的晶体材料的文本表示；然后，将这些样本转换为图表示，并使用RFM模型迭代地优化晶格参数和坐标。这种方法在生成高质量材料方面显著优于现有方法。

实验结果显示，FlowLLM在生成稳定材料的速率上比现有方法提高了三倍以上，生成稳定、独特且新颖的晶体材料的速率提高了约50%。此外，FlowLLM生成的晶体更接近其松弛状态，从而显著减少了后续计算成本。论文还提供了详细的实验设计和数据集信息，并且开源了代码，方便其他研究者复现和进一步研究。

最近在这个领域中，有几项相关研究值得关注。例如，《Crystal Graph Neural Networks for Materials Discovery》提出了一种基于图神经网络的方法来预测材料性质；《Generative Models for Crystal Structure Prediction》利用生成模型来预测晶体结构；《Deep Learning for Materials Informatics》综述了深度学习在材料信息学中的应用。