Physics-informed Neural Networks for Functional Differential Equations: Cylindrical Approximation and Its Convergence Guarantees

我们提出了首个用于泛函微分方程（FDE）的学习方案。FDE在物理学、数学和最优控制中起着基础性作用。然而，由于其不切实际的计算成本，FDE的数值分析长期以来一直面临挑战。因此，虽然已经开发出FDE的数值近似方法，但这些方法往往过度简化了解决方案。为了解决这两个问题，我们提出了一种结合物理信息神经网络（PINNs）与圆柱逼近的混合方法。圆柱逼近通过正交基展开函数和泛函导数，将FDE转换为高维偏微分方程（PDE）。为了验证圆柱逼近在FDE应用中的可靠性，我们证明了近似泛函导数和解的收敛定理。然后，利用PINNs数值求解所推导出的高维PDE。通过PINNs的能力，我们的方法可以更高效地处理比传统离散化方法更广泛类别的泛函导数，从而提高了圆柱逼近的可扩展性。作为概念验证，我们在两个FDE上进行了实验，证明我们的模型可以成功实现典型的$L^1$相对误差量级$\sim 10^{-3}$。总体而言，我们的工作为物理学家、数学家和机器学习专家提供了一个强大的工具，以分析以前具有挑战性的FDE，从而推动其数值分析的发展，这一领域此前并未受到足够关注。代码可在以下网址获取：\url{https://github.com/TaikiMiyagawa/FunctionalPINN}。

该论文旨在解决功能微分方程（FDEs）数值分析中的计算成本高昂和简化过度的问题。这是一个长期存在的挑战，尽管已有多种数值近似方法，但它们往往无法准确捕捉FDEs的复杂性。

论文提出了一种结合物理信息神经网络（PINNs）与圆柱逼近的方法来解决FDEs的数值分析问题。圆柱逼近通过正交基展开函数和泛函导数，将FDEs转换为高维偏微分方程（PDEs），然后利用PINNs高效求解这些高维PDEs。这种方法不仅提高了计算效率，还能够处理更广泛的泛函导数类型。

论文证明了圆柱逼近在FDE应用中的可靠性和收敛性，并通过实验验证了该方法的有效性。实验结果显示，模型可以达到典型的L1相对误差约为10^-3。此外，作者提供了开源代码，便于其他研究人员复现和进一步研究。未来的工作可以集中在扩展该方法的应用范围，探索更多复杂的FDEs。

近年来，关于FDEs的研究逐渐增多，包括但不限于以下几篇相关论文： 1. "Physics-Informed Neural Networks: A Deep Learning Framework for Solving Forward and Inverse Problems Involving Nonlinear Partial Differential Equations" by M. Raissi, P. Perdikaris, and G. E. Karniadakis. 2. "Solving High-Dimensional Partial Differential Equations Using Deep Learning" by Jiequn Han, Arnulf Jentzen, and Weinan E. 3. "Deep Learning-Based Numerical Methods for High-Dimensional Parabolic Partial Differential Equations and Backward Stochastic Differential Equations" by Weinan E, Jiequn Han, and Arnulf Jentzen.