Accel-NASBench: Sustainable Benchmarking for Accelerator-Aware NAS

这篇文章讲述了神经架构搜索（NAS）在计算资源方面的主要挑战。由于过度依赖昂贵的计算资源，NAS的进展受到了限制。NAS基准旨在模拟NAS实验的运行，而不需要耗费大量计算资源。然而，现有的NAS基准使用合成数据集和模型代理，这些代理对数据集和模型的特征做了简化的假设，导致评估结果不真实。作者提出了一种技术，可以搜索降低基准构建成本的训练代理，从而能够构建大规模数据集的真实NAS基准。利用这种技术，作者结合GPU、TPU和FPGA等加速器的现场性能，构建了一个开源的双目标NAS基准，用于ImageNet2012数据集。通过对各种NAS优化器和硬件平台的广泛实验，作者证明了该基准的准确性，并且可以在零成本下搜索硬件感知模型的最新技术。

构建真实的大规模数据集的神经架构搜索（NAS）基准测试需要大量的计算资源，而现有的基准测试使用的是合成数据集和模型代理，导致评估结果不够真实。

本文提出了一种技术，用于搜索降低基准测试构建成本的训练代理，从而构建逼近真实的NAS基准测试。作者使用该技术，结合ImageNet2012数据集和加速器的设备性能，构建了一个开源双目标NAS基准测试，可以在零成本下搜索硬件感知模型。

本文提出的技术可以大幅降低构建真实数据集的NAS基准测试的成本，同时保证了测试的准确性。作者通过大量实验，证明了基准测试的可行性和准确性，并展示了在不同硬件平台和NAS优化器下的搜索结果。

最近的相关研究包括：《ProxylessNAS: Direct Neural Architecture Search on Target Task and Hardware》、《Efficient Neural Architecture Search via Parameters Sharing》等。