Convolutional Kolmogorov-Arnold Networks

2024年06月19日
  • 简介
    本文介绍了卷积Kolmogorov-Arnold网络(Convolutional KANs),这是一种创新的替代标准卷积神经网络(CNNs)的方法,后者已经彻底改变了计算机视觉领域。我们将Kolmogorov-Arnold网络(KANs)中提出的非线性激活函数集成到卷积中构建了一个新层。在整篇文章中,我们通过MNIST和Fashion-MNIST基准测试,经验性地验证了Convolutional KANs相对于传统架构的性能,说明这种新方法在使用一半的参数的同时保持了类似的准确性。这种参数的显著减少开辟了一种新的方法,可以推进神经网络架构的优化。
  • 图表
  • 解决问题
    本论文旨在介绍卷积Kolmogorov-Arnold网络(Convolutional KANs),这是一种创新的替代标准卷积神经网络(CNNs)的方法,通过将Kolmogorov-Arnold网络(KANs)中的非线性激活函数集成到卷积中来构建新的层。论文旨在验证Convolutional KANs相对于传统架构的性能,并在MNIST和Fashion-MNIST基准测试中进行实证验证,表明这种新方法在使用一半的参数的情况下保持了类似的准确性水平,这种显著的参数减少为推进神经网络架构优化开辟了新的途径。
  • 关键思路
    将Kolmogorov-Arnold网络(KANs)中的非线性激活函数集成到卷积中来构建新的层,以减少神经网络参数,提高性能。
  • 其它亮点
    论文通过实验验证了Convolutional KANs相对于传统架构的性能,并在MNIST和Fashion-MNIST基准测试中进行实证验证,表明这种新方法在使用一半的参数的情况下保持了类似的准确性水平。此外,本论文的方法可以为神经网络架构优化开辟新的途径。
  • 相关研究
    目前在这个领域中,还有一些相关的研究,例如:1.《Deep Residual Learning for Image Recognition》;2.《Densely Connected Convolutional Networks》;3.《SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size》。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论