AdderSR：面向高效节能的图像超分辨率网络

AdderSR: Towards Energy Efficient Image Super-Resolution

论文链接：https://arxiv.org/abs/2009.08891

本文彻底分析了加法操作与identity mapping之间的关系，并插入shortcuts以使用加法网络增强SR模型的性能，实验证明，AdderNet达到与CNN基线相当的性能和视觉质量，并且能耗降低了约2倍。作者单位：华为诺亚, 北京大学, 悉尼大学

本文使用加法神经网络（AdderNet）研究单幅图像超分辨率问题。与卷积神经网络相比，AdderNet利用加法来计算输出特征，从而避免了传统乘法运算的大量能耗。但是，由于计算范式的不同，很难将AdderNet在大规模图像分类上的成功直接继承到图像超分辨率任务上。具体而言，加法操作无法轻松学习identity mapping，这对于图像处理任务至关重要。此外，AdderNet无法确保高通滤波器的特征。为此，我们彻底分析了加法操作与identity mapping之间的关系，并插入shortcuts以使用加法网络增强SR模型的性能。然后，我们开发了可学习的power激活函数，用于调整特征分布和细化细节。在多个基准模型和数据集上进行的实验表明，使用AdderNet的图像超分辨率模型可以实现与CNN基线相当的性能和视觉质量，并且能耗降低了约2倍。