Binarized Neural Architecture Search for Efficient Object Recognition

论文链接：https://arxiv.org/abs/2009.04247

本文提出了用于高效目标识别的BNAS（1-bit BNAS），作者称这是第一个二值NAS算法（但据我了解，BATS、NASB也是二值NAS网络）。作者单位：北航(张宝昌团队), 厦门大学(纪荣嵘等), 百度等

传统的神经网络架构搜索（NAS）通过自动设计各种任务的网络体系结构，对计算机视觉产生重大影响。本文介绍了具有二值卷积的搜索空间的二值神经网络架构搜索（BNAS），以生成极度压缩的模型，从而减少了用于边缘计算的嵌入式设备的巨大计算成本。由于优化要求和巨大的架构空间导致学习效率低下，BNAS计算比NAS更具挑战性，并且在各种计算应用中处理wild data时性能会损失。为了解决这些问题，我们在BNAS中引入了操作空间减少和通道采样的功能，以显著降低搜索成本。这是通过对wild data具有鲁棒性的基于性能的策略来完成的，该策略还可用于放弃较少潜在的操作。此外，我们引入了上限置信区间（UCB）来解决1位BNAS。二值化神经网络的两种优化方法用于验证BNAS的有效性。大量实验表明，所提出的BNAS在CIFAR和ImageNet数据库上均具有与NAS相当的性能。在CIFAR-10数据集上，准确性达到96.53％与97.22％，但是具有显著压缩的模型，并且搜索速度比最新的PC-DARTS快40％。在wild人脸识别任务上，我们的二值化模型实现了与相应的全精度模型相似的性能。

内容中包含的图片若涉及版权问题，请及时与我们联系删除