Neural Spectral Methods: Self-supervised learning in the spectral domain

2023年12月08日
  • 简介
    我们提出了神经光谱方法,这是一种解决参数化偏微分方程(PDEs)的技术,基于经典的光谱方法。我们的方法使用正交基来学习PDE解作为光谱系数之间的映射。与当前的机器学习方法不同,后者通过最小化时空域中残差的数值积分来强制执行PDE约束条件,我们利用Parseval恒等式,通过“光谱损失”引入了一种新的训练策略。我们的光谱损失通过神经网络实现更高效的微分,并显著降低了训练复杂度。在推断时间,我们的方法的计算成本保持不变,无论域的时空分辨率如何。我们的实验结果表明,我们的方法在多个不同问题上的速度和精度比以前的机器学习方法快一到两个数量级。与相同精度的数值求解器相比,我们的方法表现出了10倍的性能提升。
  • 作者讲解
  • 图表
  • 解决问题
    该论文试图解决参数化偏微分方程(PDE)的求解问题,提出一种基于经典谱方法的神经谱方法。是否是一个新问题并没有明确说明。
  • 关键思路
    该论文提出的神经谱方法使用正交基来学习PDE解,并通过Parseval恒等式引入新的训练策略,即谱损失。相比当前机器学习方法通过在时空域内最小化残差的数值积分来强制PDE约束,该方法在神经网络中实现更高效的微分,并大大降低了训练复杂度。
  • 其它亮点
    该论文的实验结果表明,该方法在多个不同问题上的速度和准确性均显著优于以往的机器学习方法,性能提升了1-2个数量级。与相同准确度的数值求解器相比,该方法的性能速度提高了10倍。该论文使用了多个数据集,并开源了代码。该方法的工作值得进一步深入研究。
  • 相关研究
    最近在这个领域中,还有一些相关研究,如:'Physics-informed neural networks for solving partial differential equations'、'Deep learning for universal linear embeddings of nonlinear dynamics'、'Fourier neural operator for parametric partial differential equations'等。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问