论文标题:Attention-based Image Upsampling 论文链接:https://arxiv.org/abs/2012.09904 作者单位:南加州大学, Intel Labs 本文提出基于注意力的上采样方法,其在使用较少参数的情况下,性能始终优于转置卷积或基于自适应滤波器的传统上采样方法!通过对单图像超分辨率和联合图像上采样任务进行验证。
卷积层是计算机视觉中许多深度神经网络解决方案不可或缺的一部分。最近的工作表明,用基于自注意力机制来替换标准的卷积运算可以提高图像分类和目标检测任务的性能。在这项工作中,我们展示了如何使用注意力机制代替另一种规范操作:strided transposed convolution(转置卷积)。我们称其称为:基于注意力的上采样,因为它会增加/向上采样特征图的空间尺寸。通过对单图像超分辨率和联合图像上采样任务的实验,我们表明基于注意力的上采样在使用较少参数的情况下,始终优于基于跨步转置卷积或基于自适应滤波器的传统上采样方法。我们表明,注意力机制的固有灵活性使它能够使用单独的源来计算注意力系数和注意力目标,从而在融合来自多种图像形式的信息时,基于注意力的上采样成为一种自然选择。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢