深度学习如何用在边缘设备上？苏黎世联邦理工Zhongnan博士论文《在边缘设备上使用深度学习》

深度神经网络(DNNs)在许多不同的感知任务中都取得了成功，如计算机视觉、自然语言处理、强化学习等。高性能的dnn需要大量的资源消耗。例如，训练DNN需要高动态内存、大规模数据集和大量计算(训练时间很长); 即使使用DNN进行推理也需要大量的静态存储、计算(较长的推理时间)和能量。因此，最先进的DNN通常部署在拥有大量超级计算机、高带宽通信总线、共享存储基础设施和高功率补充的云服务器上。最近，一些新兴的智能应用，如AR/VR，移动助手，物联网，要求我们在资源有限的边缘设备上部署DNN。与云服务器相比，边缘设备通常只有相当少的资源。为了在边缘设备上部署DNN，我们需要减少DNN的大小，即我们的目标是在资源消耗和模型精度之间更好地权衡。在本文中，我们研究了四个边缘智能场景，并开发了不同的方法来实现每个场景中的深度学习。