AdaBM: On-the-Fly Adaptive Bit Mapping for Image Super-Resolution

2024年04月04日
  • 简介
    尽管深度神经网络在图像超分辨率(SR)问题上取得了前所未有的恢复精度,但由于计算成本巨大,其应用仍然受到限制。由于SR的不同输入图像面临不同的恢复困难,基于输入图像适应计算成本,即自适应推断,已成为压缩SR网络的一种有前途的解决方案。具体来说,成功地调整量化位宽降低了推断和存储成本,而不牺牲准确性。然而,尽管自适应网络的好处,现有的工作仍依赖于时间密集的量化感知训练,需要完全访问原始训练对来学习适当的位分配策略,这限制了其普遍使用。为此,我们引入了第一个即时自适应量化框架,将处理时间从几小时加速到几秒钟。我们用仅两个位映射模块来制定位分配问题:一个将输入图像映射到图像适应位因子,另一个获得层适应因子。这些位映射仅使用少量校准图像进行校准和微调。我们实现了与先前的自适应量化方法相竞争的性能,同时处理时间加速了2000倍。代码可在https://github.com/Cheeun/AdaBM上获得。
  • 图表
  • 解决问题
    论文旨在解决图像超分辨率问题的计算成本高的限制,提出了一种自适应量化框架来压缩超分辨率网络。
  • 关键思路
    论文提出了一种只需要少量校准图像的实时自适应量化框架,可以将处理时间从数小时缩短到数秒。
  • 其它亮点
    论文的实验结果显示,该自适应量化框架在不影响精度的情况下,将处理时间加速了2000倍。此外,作者在Github上公开了代码。
  • 相关研究
    在相关研究中,已经有一些关于自适应量化的方法被提出,比如AdaDeep、DeepIoT和QIL等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论