Dynamic neural network with memristive CIM and CAM for 2D and 3D vision

2024年07月12日
  • 简介
    大脑是动态的、联想的和高效的。它通过将输入与过去的经验关联起来重新配置,具有融合的记忆和处理能力。相比之下,人工智能模型是静态的,无法将输入与过去的经验关联起来,并在物理上分离的内存和处理器上运行。我们提出了一种硬件软件协同设计,使用忆阻器的基于语义记忆的动态神经网络(DNN)。该网络将传入的数据与存储为语义向量的过去经验相联系。网络和语义记忆在噪声鲁棒的三态忆阻器计算内存(CIM)和内容寻址存储器(CAM)电路上进行物理实现。我们使用40纳米忆阻器宏对ResNet和PointNet++进行验证,对来自MNIST和ModelNet数据集的图像和3D点进行分类,不仅实现了与软件相当的准确性,而且在计算预算上减少了48.1%和15.9%。此外,它还提供了77.6%和93.3%的能源消耗减少。
  • 作者讲解
  • 图表
  • 解决问题
    本篇论文旨在解决AI模型静态、无法关联过去经验的问题,提出了硬件-软件协同设计的语义记忆动态神经网络方案,通过使用三态记忆体实现物理上的计算-内存联合,将输入数据与过去经验相结合,以实现动态的联想。
  • 关键思路
    本文的关键思路是将语义记忆与动态神经网络相结合,通过使用三态记忆体实现计算-内存联合,将输入数据与过去经验相结合,以实现动态的联想。
  • 其它亮点
    该论文的亮点包括:1. 使用硬件-软件协同设计的语义记忆动态神经网络方案;2. 通过使用三态记忆体实现计算-内存联合,将输入数据与过去经验相结合,以实现动态的联想;3. 在MNIST和ModelNet数据集上验证了该方案,实现了与软件相当的准确率,并降低了计算预算和能耗消耗。
  • 相关研究
    在这个领域中,最近的相关研究包括:1. 《Memory-Augmented Neural Networks for Machine Reading》;2. 《Dynamic Memory Networks for Visual and Textual Question Answering》;3. 《Neuromorphic Computing with Memristive Devices》等。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问