【论文标题】Memory-Efficient Hierarchical Neural Architecture Search for Image Restoration 【作者团队】Haokui Zhang, Ying Li, Chengrong Gong, Hao Chen, Zongwen Bai, Chunhua Shen 【发表时间】2020/12/25 【机 构】西北工业大学 【论文链接】https://arxiv.org/abs/2012.13212
【推荐理由】
在本文中,作者首次尝试利用NAS技术为低级图像恢复任务自动设计高效的网络体系结构。
最近,人们对神经体系结构搜索(NAS)方法花费了很多注意力,该方法通常胜过在高级视觉任务上手动设计的体系结构。受此启发,作者尝试利用NAS技术为低级图像恢复任务自动设计高效的网络体系结构。在本文中,作者提出了一种内存高效的分层NAS:HiNAS(HiNAS),并将其应用于以下两个任务:图像去噪和图像超分辨率。 HiNAS采用基于梯度的搜索策略,并构建了一个灵活的分层搜索空间,包括内部搜索空间和外部搜索空间,分别负责设计单元架构和确定单元宽度。对于内部搜索空间,作者提出了分层体系结构共享策略(LWAS),以实现更灵活的体系结构和更好的性能。对于外部搜索空间,作者提出了单元共享策略以节省内存,并显着提高搜索速度。提出的HiNAS既具有存储效率,又具有计算效率。使用单个GTX1080Ti GPU,在BSD 500上搜索降噪网络只需要大约1个小时,而在DIV2K上搜索超分辨率结构只需要3.5个小时。实验结果表明,与最先进的方法相比,HiNAS发现的体系结构具有更少的参数并享有更快的推理速度,同时还具有极高的竞争力。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢