- 简介神经仿真器有望成为物理仿真的高效替代方案,但其规模化应用却受限于生成高保真度训练数据所带来的高昂成本。利用现成的海量几何数据进行预训练提供了一种自然的替代方案,然而该方法面临一个根本性挑战:仅基于静态几何结构的监督信号忽略了动力学特性,可能导致在物理任务上出现负迁移现象。为此,我们提出了GeoPT——一种基于“提升式几何预训练”(lifted geometric pre-training)的通用物理仿真统一预训练模型。其核心思想是为几何结构注入合成的动力学信息,从而在无需任何物理标签的前提下,实现对动力学特性的自监督学习。GeoPT在超过一百万个样本上完成预训练后,在涵盖汽车、飞机与船舶流体力学仿真,以及碰撞场景下固体力学仿真的多项工业级精度基准测试中均展现出持续稳定的性能提升;同时将所需标注数据量降低20%–60%,并将模型收敛速度提高至原来的2倍。这些结果表明,通过引入合成动力学对几何信息进行“提升”,可有效弥合几何建模与物理建模之间的鸿沟,为神经仿真开辟了一条可扩展的发展路径,并可能在更广泛的领域产生深远影响。代码已开源,详见:https://github.com/Physics-Scaling/GeoPT。
-
- 图表
- 解决问题神经仿真器在物理仿真中具有高效替代潜力,但其规模化受限于高保真训练数据生成成本过高;而仅在静态几何上预训练虽数据丰富,却因忽略动力学导致负迁移,无法有效泛化到真实物理任务——这是一个尚未被系统解决的新问题。
- 关键思路提出GeoPT:通过‘提升式几何预训练’(lifted geometric pre-training),在大量现成几何数据上注入合成动力学(如虚拟流场演化、弹性变形序列),构建无需真实物理标签的动力学感知自监督信号,从而弥合静态几何表征与动态物理规律之间的根本鸿沟。
- 其它亮点在超百万合成样本上预训练;在汽车/飞机/船舶流体力学及汽车碰撞固体力学等工业级基准上显著提升性能;减少下游标注数据需求20–60%,加速收敛2×;代码完全开源(https://github.com/Physics-Scaling/GeoPT);亮点在于‘无物理标签的动力学增强’范式,为数据稀缺的科学AI提供可扩展新路径。
- 1. 'Learning Mesh-Based Simulation with Graph Networks' (Sanchez-Gonzalez et al., ICLR 2020); 2. 'TF-Flows: A Transformer-based Framework for Fluid Flow Prediction' (Li et al., NeurIPS 2022); 3. 'Physics-Informed Neural Networks (PINNs)' (Raissi et al., JCP 2019); 4. 'Neural Operator Learning for PDE Surrogates' (Kovachki et al., NeurIPS 2021); 5. 'Pretraining for Scientific Machine Learning: A Survey' (Zhang et al., arXiv:2305.17142)
- 1
NEW
提问交流
提交问题,平台邀请作者,轻松获得权威解答~
向作者提问

提问交流