【深度学习与绿色环保】联邦学习的碳足迹初探 【论文标题】A first look into the carbon footprint of federated learning 【作者团队】Xinchi Qiu, Titouan Parcolle, Daniel J. Beutel, Taner Topa, Akhil Mathur, Nicholas D. Lane 【发表时间】2020/10/13 【论文链接】https://arxiv.org/pdf/2010.06537.pdf   【推荐理由】 本文首次系统地讨论了如何将联邦学习技术应用于绿色计算领域，提出的新模型的碳排放率明显优于传统的中心化学习方法。

众所周知，能源消耗导致全球气候变化，深度学习在这场悲剧中扮演着越来越重要的角色。联邦学习（FL）是为了解决深度学习集中训练引起的严重的隐私和环境问题而提出的替代方案。许多先前的研究工作已经涉及中心化学习的碳足迹研究，但对于FL相关的能源消耗和碳足迹还有待探索。本文首次系统地研究了FL的碳足迹。作者提出了一个严格的碳足迹量化模型，证明了将碳排放率直接集成到优化过程中可以在保持良好性能的同时显著减少污染。通过最优FL超参数设置（如样本轮询次数、客户端数量）使FL比中心化训练更绿色。

图 1：碳排放量对比情况
这项工作的科学贡献如下： (1)FL的碳足迹分析模型。本文首次提出了FL的定量碳排放估算方法。使用CIFAR10和ImageNet数据集，用该方法在真实的FL硬件上进行碳敏感度分析。 (2)污染和学习目标的联合优化制定。基于FL学习碳足迹方法，本文将碳排放整合到通常的神经网络优化过程中，以降低最终碳成本。实验表明，在CIFAR10数据集上使用FL训练的ResNet18的碳排放可以减少一半，同时保持相同的精确度水平。 (3)碳友好型FL的分析和路线图。本文对实验结果进行了全面的分析和讨论，强调了环境友好型FL的挑战和未来研究方向。

内容中包含的图片若涉及版权问题，请及时与我们联系删除