论文标题:Image Super-Resolution with Non-Local Sparse Attention

论文链接:https://openaccess.thecvf.com/content/CVPR2021/papers/Mei_Image_Super-Resolution_With_Non-Local_Sparse_Attention_CVPR_2021_paper.pdf

代码链接:https://github.com/HarukiYqM/Non-Local-Sparse-Attention

作者单位:伊利诺伊大学厄巴纳-香槟分校(UIUC)

本文为单幅图像超分辨率网络提出了一种新颖的Non-Local稀疏注意力:NLSA,它同时包含了稀疏表示和Non-Local操作的优点,性能优于其他注意力,代码刚刚开源!

非局部 (NL) 操作和稀疏表示对于单图像超分辨率 (SISR) 都至关重要。在本文中,我们研究了它们的组合,并提出了一种具有动态稀疏注意模式的新型非局部稀疏注意 (NLSA)。 NLSA 旨在保留 NL 操作的远程建模能力,同时享受稀疏表示的鲁棒性和高效性。具体来说,NLSA 使用球形局部敏感散列 (LSH) 来纠正非局部注意力,该散列将输入空间划分为相关特征的散列桶。对于每个查询信号,NLSA 为其分配一个桶,并且只计算桶内的注意力。由此产生的稀疏注意力可以防止模型关注嘈杂和信息较少的位置,同时将计算成本从空间大小的二次线性降低到渐近线性。大量实验验证了 NLSA 的有效性和效率。通过一些非局部稀疏注意模块,我们的架构称为非局部稀疏网络 (NLSN),在数量和质量上都达到了 SISR 的最先进性能。 

内容中包含的图片若涉及版权问题,请及时与我们联系删除