Resource-efficient Medical Image Analysis with Self-adapting Forward-Forward Networks

2024年06月20日
  • 简介
    我们介绍了一种快速的自适应前向网络(SaFF-Net)用于医学影像分析,减轻了当前主要依赖反向传播进行模型训练和微调的功耗和资源限制。在最近提出的前向算法(FFA)的基础上,我们介绍了卷积前向算法(CFFA),它是一个适用于高级图像分析的参数有效的重组,克服了原始FFA的速度和泛化约束。为了解决FFA的超参数敏感性,我们还引入了自适应框架SaFF-Net,在热身和训练期间进行微调。我们的方法实现了更有效的模型训练,并消除了FFA中任意选择Goodness函数的先前必要要求。我们在几个基准数据集上评估了我们的方法,与标准反向传播(BP)神经网络进行比较,结果显示基于FFA的网络具有显著较少的参数和函数评估,可以在一次性场景和大批量情况下与标准模型竞争。代码将在会议期间提供。
  • 图表
  • 解决问题
    本论文旨在解决医学影像分析中的模型训练和微调所面临的能源消耗和资源限制问题,尤其是由于当前主要依赖反向传播算法导致的问题。
  • 关键思路
    本论文基于最近提出的Forward-Forward Algorithm (FFA)提出了快速自适应正向传播神经网络(SaFF-Net)来进行医学影像分析,使用适用于高级图像分析的参数有效重构Convolutional Forward-Forward Algorithm (CFFA)来克服原始FFA的速度和泛化限制。此外,还引入了自适应框架SaFF-Net,以在热身和训练期间微调参数。这种方法使模型训练更有效,并消除了FFA中任意选择Goodness函数的先前必要要求。
  • 其它亮点
    本论文在几个基准数据集上进行了评估,与标准反向传播神经网络相比,FFA-based网络具有更少的参数和函数评估,可以在一次性场景和大批量大小方面竞争标准模型。代码将在会议期间公开。
  • 相关研究
    最近的相关研究包括:'A Survey of Deep Learning in Medical Image Analysis','Convolutional Neural Networks for Medical Image Analysis: Full Training or Fine Tuning?'等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论