论文标题:Memory-Efficient Hierarchical Neural Architecture Search for Image Restoration 论文链接:https://arxiv.org/abs/2012.13212 作者单位:西北工业大学, 延安大学, 阿德莱德大学(沈春华等) 在图像去噪和图像超分辨率上表现SOTA!参数少,速度快!性能优于IMDN、IDN和N3Net等网络。
最近,人们对神经网络架构搜索(NAS)方法花费了很多注意力,该方法通常胜过在高级视觉任务上手动设计的体系结构。受此启发,我们尝试利用NAS技术为low-level图像恢复任务自动设计高效的网络结构。在本文中,我们提出了一种内存高效的分层NAS HiNAS(HiNAS),并将其应用于以下两个任务:图像去噪和图像超分辨率。HiNAS采用基于梯度的搜索策略,并构建了一个灵活的分层搜索空间,包括内部搜索空间和外部搜索空间,分别负责设计单元架构和确定单元宽度。对于内部搜索空间,我们提出了分层体系结构共享策略(LWAS),以实现更灵活的体系结构和更好的性能。对于外部搜索空间,我们提出了单元共享策略以节省内存,并显著提高搜索速度。所提出的HiNAS既具有存储效率又具有计算效率。使用单个GTX1080Ti GPU,在BSD 500上搜索降噪网络只需要大约1个小时,而在DIV2K上搜索超分辨率结构只需要3.5个小时。实验结果表明,与最先进的方法相比,HiNAS发现的体系结构具有更少的参数并享有更快的推理速度,同时还具有极高的竞争力。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢