fKAN: Fractional Kolmogorov-Arnold Networks with trainable Jacobi basis functions

2024年06月11日
  • 简介
    最近神经网络设计的进展促进了Kolmogorov-Arnold网络(KAN)的发展,该网络提高了速度、可解释性和精度。本文提出了分数Kolmogorov-Arnold网络(fKAN),这是一种新颖的神经网络架构,将KAN的独特属性与可训练的自适应分数正交Jacobi函数作为其基函数相结合。通过利用分数Jacobi函数的独特数学属性,包括简单的导数公式、非多项式行为以及对正负输入值的活性,该方法确保了高效的学习和增强的精度。该提议的架构在深度学习和物理学知识深度学习的一系列任务中进行了评估。精度在合成回归数据、图像分类、图像去噪和情感分析上进行了测试。此外,还对各种微分方程进行了性能测试,包括普通、偏微分和分数延迟微分方程。结果表明,将分数Jacobi函数集成到KAN中显著提高了跨不同领域和应用的训练速度和性能。
  • 图表
  • 解决问题
    本文旨在提出一种新的神经网络架构,Fractional Kolmogorov-Arnold Network (fKAN),以解决深度学习和物理学中的多种任务,并提高训练速度和性能。
  • 关键思路
    fKAN将可训练的自适应分数正交Jacobi函数作为其基函数,利用分数Jacobi函数的数学特性,包括简单的导数公式、非多项式行为以及对正负输入值的活动性,确保了高效的学习和增强的准确性。
  • 其它亮点
    该架构在合成回归数据、图像分类、图像去噪和情感分析等任务中进行了评估。此外,还在各种微分方程中进行了性能测试,包括普通微分方程、偏微分方程和分数延迟微分方程。实验结果表明,将分数Jacobi函数集成到KAN中显著提高了训练速度和性能。
  • 相关研究
    最近的相关研究包括:'Kolmogorov-Arnold Neural Networks for Nonlinear Dynamical Systems Identification'、'Deep Learning Based on Kolmogorov-Arnold Representation'、'Fractional-Order Neural Networks and Their Applications in Chaotic Systems'等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论