Stochastic Spiking Neural Networks with First-to-Spike Coding

2024年04月26日
  • 简介
    脉冲神经网络(SNN)作为神经网络的第三代,以其生物相似性和能量效率而闻名,特别是在神经形态硬件上实现时。然而,现有研究集中于具有速率编码的确定性神经元,这种方法由于信息集成时间长而产生了大量计算开销,并且未能充分利用大脑的概率推理能力和时间动态。在本研究中,我们探索了将新型计算和信息编码方案与SNN体系结构相结合的方法,其中我们将随机脉冲神经元模型与时间编码技术相结合。通过与其他确定性SNN和基于速率编码的模型进行广泛的基准测试,我们研究了我们的方法在准确性、推理延迟、脉冲稀疏性、能量消耗和鲁棒性等方面的权衡。我们的工作是第一个将随机SNN的直接训练方法与时间编码扩展到VGG体系结构和MNIST数据集之外的研究。
  • 图表
  • 解决问题
    本论文旨在探索将随机尖峰神经元模型与时间编码技术相结合的SNN架构,以解决现有SNN研究中存在的计算开销大、无法充分利用脑部概率推理能力和时间动态等问题。
  • 关键思路
    本论文的关键思路是将随机尖峰神经元模型与时间编码技术相结合,以实现更高的计算效率和更好的推理能力。这是对现有SNN研究的新探索,可以扩展直接训练随机SNN的可扩展性。
  • 其它亮点
    论文通过与其他确定性SNN和速率编码的广泛基准测试,探讨了该方案在准确性、推理延迟、尖峰稀疏性、能量消耗和鲁棒性等方面的权衡。此外,论文还将该方案扩展到VGG架构和MNIST数据集等更复杂的情况,并开源了代码。
  • 相关研究
    最近的相关研究包括《Spiking Neural Networks: Principles and Challenges》、《Deep Learning with Spiking Neural Networks: A Review》等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论