A Survey on Universal Approximation Theorems

本文讨论了神经网络（NNs）的逼近能力的各种定理，这些定理被称为通用逼近定理（UATs）。本文从函数逼近的初步结果开始，如泰勒定理、傅里叶定理、魏尔斯特拉斯逼近定理、科尔莫戈洛夫-阿诺德表示定理等，系统地概述了UATs。从任意宽度和深度的角度，论述了UATs的理论和数值方面。

本论文旨在系统地概述神经网络的近似能力，即通用逼近定理（UATs）。通过对函数逼近的初步结果，如泰勒定理、傅里叶定理、魏尔斯特拉斯逼近定理、科尔莫戈洛夫 - 阿诺德表示定理等进行介绍，涵盖了UATs的理论和数值方面。

本论文系统概述了神经网络的通用逼近定理，从任意宽度和深度的角度进行了理论和数值方面的探讨。

本论文探讨了神经网络的通用逼近定理，涵盖了理论和数值方面。值得注意的是，本文介绍了UATs的各种前置结果，如泰勒定理、傅里叶定理、魏尔斯特拉斯逼近定理、科尔莫戈洛夫 - 阿诺德表示定理等。本文还讨论了任意宽度和深度的神经网络的逼近能力，并提供了实验结果。本文的工作对于深入研究神经网络的逼近能力具有重要意义。

最近在这个领域中，还有一些相关的研究被进行，如“深度神经网络的逼近能力：深度乘积网络的优势”（2017）和“神经网络的通用逼近定理”（2019）。