rKAN: Rational Kolmogorov-Arnold Networks

KAN的发展标志着深度学习中传统的多层感知机的重大转变。最初，KAN采用B样条曲线作为其主要基函数，但其内在复杂性带来了实现挑战。因此，研究人员探索了替代基函数，如小波、多项式和分数函数。在这项研究中，我们探讨了有理函数作为KAN新颖基函数的使用。我们提出了两种不同的方法，基于帕德逼近和有理Jacobi函数作为可训练的基函数，建立了有理KAN（rKAN）。然后，我们评估了rKAN在各种深度学习和物理信息任务中的性能，以证明其在函数逼近方面的实用性和有效性。

本论文旨在探讨有理函数作为KAN（Kolmogorov-Arnold networks）新型基函数的应用，解决传统B样条曲线作为基函数所带来的实现难题。

本论文提出了两种不同的方法，即Pade逼近和有理Jacobi函数作为可训练的基函数，建立了有理KAN（rKAN），并在各种深度学习和物理学相关任务中评估了rKAN的性能，证明其在函数逼近方面的实用性和有效性。

本论文的亮点在于提出了一种新颖的基函数，即有理函数，以解决传统基函数的实现难题。实验设计合理，使用了不同的数据集进行评估，该论文还有开源代码可供使用。值得进一步深入研究。

最近的相关研究包括使用不同的基函数进行深度学习的研究，如Wavelets、Polynomials和Fractional functions等。