Univariate Radial Basis Function Layers: Brain-inspired Deep Neural Layers for Low-Dimensional Inputs

深度神经网络（DNNs）已成为函数逼近的标准工具，大多数引入的架构都是为高维输入数据而开发的。然而，许多现实世界的问题具有低维输入，标准的多层感知器（MLPs）是默认选择。目前缺乏对专门架构的研究。我们提出了一种新颖的DNN层，称为单变量径向基函数（U-RBF）层，作为一种替代选择。类似于大脑中的感觉神经元，U-RBF层使用一组神经元处理每个单独的输入维度，其激活取决于不同的优选输入值。我们在低维函数回归和强化学习任务中验证了其与MLPs的有效性。结果表明，当目标函数变得复杂且难以逼近时，U-RBF尤为有优势。

论文旨在解决低维输入数据下函数逼近问题的特化架构缺失问题，提出一种名为Univariate Radial Basis Function (U-RBF)层的新型DNN层，并验证其在低维函数回归和强化学习任务中相对于MLPs的有效性。

论文提出了一种新型DNN层——Univariate Radial Basis Function (U-RBF)层，类似于大脑中的感觉神经元，通过一组神经元处理每个单独的输入维度，其激活取决于不同的优先输入值，相比于当前领域的研究，这篇论文的思路有新意。

实验结果表明，当目标函数变得复杂且难以逼近时，U-RBF层特别有优势。论文使用的数据集包括低维函数回归和强化学习任务，但并未提供开源代码。值得进一步研究的工作包括U-RBF层在高维数据下的表现和其在其他任务中的应用。

最近的相关研究包括《Deep RBF Networks Revisited: Robustness, Manifold Learning, and Functions Beyond Gaussians》和《Deep Radial Basis Function Networks for Image Classification》等。