论文标题:AACP: Model Compression by Accurate and Automatic Channel Pruning 论文链接:AACP: Model Compression by Accurate and Automatic Channel Pruning 作者单位:清华大学 表现SOTA!性能优于ABCPruner、PFS和MetaPruning等方法,代码即将开源!

通道剪枝最近被表述为神经体系结构搜索(NAS)问题。但是,现有的基于NAS的方法面临巨大的计算成本和应用程序灵活性的挑战。如何同时处理多个稀疏性约束并加快基于NAS的通道剪枝仍然是未解决的挑战。在本文中,我们提出了一种新颖的精确自动通道剪枝(AACP)方法来解决这些问题。首先,AACP将模型的结构表示为结构向量,并引入修剪步骤向量以控制每一层的压缩粒度。其次,AACP利用剪枝的结构精度估计器(PSAE)来加快性能估计过程。第三,AACP提出了一种改进的差分进化算法(IDE)来有效地搜索最优结构矢量。由于使用IDE,AACP可以同时高效地处理FLOP约束和模型大小约束。我们的方法可以轻松地应用于各种任务,并达到最先进的性能。在CIFAR10上,我们的方法减少了ResNet110的65%的FLOPs,提高了0.26%的top-1精度。在ImageNet上,我们减少了ResNet50的42%FLOP,而损失的精度为0.18%top-1,而降低了30%的MobileNetV2的FLOP,而损失值为0.7%的top-1精度。

内容中包含的图片若涉及版权问题,请及时与我们联系删除