论文标题： Zen-NAS: A Zero-Shot NAS for High-Performance Image
Recognition 

论文链接：https://arxiv.org/abs/2102.01063

代码链接：https://github.com/idstcv/ZenNAS

作者单位：阿里巴巴

准确率预测器是神经架构搜索 (NAS) 中用于架构排名的关键组件。构建高质量的准确度预测器通常需要大量计算。为了解决这个问题，我们没有使用准确度预测器，而是提出了一种称为 Zen-Score 的新型零样本索引来对架构进行排名。 Zen-Score 代表网络表达能力，与模型准确率正相关。 Zen-Score 的计算只需要通过随机初始化的网络进行一些前向推理，无需训练网络参数。基于 Zen-Score，我们进一步提出了一种新的 NAS 算法，称为 Zen-NAS，通过在给定的推理预算下最大化目标网络的 Zen-Score。在不到半个 GPU 日内，Zen-NAS 能够以无数据的方式直接搜索高性能架构。与之前的 NAS 方法相比，所提出的 Zen-NAS 在多个服务器端和移动端 GPU 平台上的速度要快几倍，在 ImageNet 上具有最先进的精度。

内容中包含的图片若涉及版权问题，请及时与我们联系删除