EfficientNet-eLite: Extremely Lightweight and Efficient CNN Models for Edge Devices by Network Candidate Search

论文链接:https://arxiv.org/abs/2009.07409 代码链接:https://github.com/Ching-Chen-Wang/EfficientNet-eLite

又轻又快又小!本文提出一种网络候选搜索(NCS),如应用于EfficientNet上,可获得轻量级系列网络:EfficientNet-eLite,性能优于MnasNet、GreedyNAS等,代码即将开源!作者单位:國立清華大學

将卷积神经网络(CNN)嵌入边缘设备以进行推理是一项非常具有挑战性的任务,因为这种硬件并非天生就可以处理这种重量级的网络。在本文中,针对通过尽可能减少交易准确性来减少开销的问题,我们提出了一种新颖的网络候选搜索(NCS),这是一种通过分组概念和方法来研究资源使用与性能之间权衡的替代方法。淘汰赛。此外,NCS还可以在任何神经网络中推广。在我们的实验中,我们从EfficientNet-B0收集了候选CNN模型,并通过宽度,深度,输入分辨率和复合比例缩减以各种方式进行比例缩减,并应用NCS研究了比例缩减的权衡问题。同时,获得了一个非常轻量级的EfficientNet系列,称为EfficientNet-eLite。为了进一步将CNN边缘应用与专用集成电路(ASIC)结合起来,我们调整了EfficientNet-eLite的体系结构,以构建更加硬件友好的版本EfficientNet-HF。对ImageNet数据集的评估,提出的EfficientNet-eLite和EfficientNet-HF都比以前的最先进的CNN具有更好的参数用法和准确性。特别是,EfficientNet-eLite的最小版本比现有最佳和最小的MnasNet更轻巧,参数减少了1.46倍,准确性提高了0.56%。

内容中包含的图片若涉及版权问题,请及时与我们联系删除