CNN结构演变：轻量化模型总结

之前的文章中经典模型中的结构演变，介绍了设计原理，作用，效果等，想要回顾的小伙伴可以戳链接：CNN结构演变：经典模型总结

本文将对轻量化模型进行总结分析。轻量化模型主要围绕减少计算量，减少参数，降低实际运行时间，简化底层实现方式等这几个方面，提出了深度可分离卷积，分组卷积，可调超参数降低空间分辨率和减少通道数，新的激活函数等方法，并针对一些现有的结构的实际运行时间作了分析，提出了一些结构设计原则，并根据这些原则来设计重新设计原结构。

注：除了以上这种直接设计轻量的、小型的网络结构的方式外，还包括使用知识蒸馏，低秩剪枝、模型压缩等方法来获得轻量化模型。在本文的侧重点是介绍结构设计，因此对后面这几种方法在本文不予总结。