- 简介光子计算已经成为加速计算密集型人工智能工作负载的有前途的解决方案,尤其是在资源有限、延迟敏感的边缘计算环境中,提供了无与伦比的速度和能源效率。然而,模拟光子张量加速器的部署遇到了可靠性挑战,因为硬件噪声和环境变化。虽然已经提出了离片噪声感知训练和片上训练来增强光学神经加速器对中等静态噪声的变化容忍度,但我们观察到由于时间漂移变化而导致的明显性能下降,这需要实时的现场校准机制。为了解决这些具有挑战性的可靠性问题,我们首次提出了一种轻量级的动态片上修复框架,称为 DOCTOR,它提供了自适应的、现场的准确性恢复,以应对时间漂移噪声。DOCTOR 框架使用自适应探测智能地监测芯片状态,并在必要时执行快速的现场训练无关校准来恢复准确性。鉴别设备和张量核之间不均匀的空间变化分布,我们还提出了一种变化感知的架构重映射策略,以避免在嘈杂的设备上执行关键任务。大量实验表明,我们提出的框架可以在漂移变化下保证持续的性能,与最先进的片上训练方法相比,准确性提高了34%,开销降低了2-3个数量级。
- 图表
- 解决问题论文旨在解决光子计算中的可靠性问题,提出了一种轻量级的动态芯片校准框架,名为DOCTOR,以提供自适应的在位精度恢复,以对抗时间漂移噪声。
- 关键思路DOCTOR框架通过自适应探测监测芯片状态,并在必要时进行快速的在位校准,以恢复准确性。此外,还提出了一种变异感知的架构重映射策略,以避免在嘈杂的设备上执行关键任务。
- 其它亮点论文提出的DOCTOR框架可以在时间漂移噪声下保证持续的性能,相较于现有的芯片内训练方法,DOCTOR框架具有更高的精度和更低的开销。实验结果表明,DOCTOR框架可以在不同的数据集上进行测试,并且可以适应不同的空间变化分布。
- 最近的相关研究包括使用光子计算加速人工智能工作负载的研究,以及解决光子计算可靠性问题的研究。其中一些论文的标题包括“Photonic Convolutional Neural Networks for Real-Time Cognitive Computing”和“Reliability-Aware Photonic Tensor Accelerator with On-Chip Error Detection and Correction”。
沙发等你来抢
去评论
评论
沙发等你来抢