来自计算所发布的研究分布式GNN训练中使用的各种优化技术，提供了分布式GNN训练的全面综述。

 

图片

论文链接：https://arxiv.org/pdf/2211.05368.pdf

图神经网络(GNNs)在图学习方面的有效性已被证明是广泛应用领域的一种强大的算法模型。为了扩大GNN训练以适应大规模和不断增长的图，最有前途的解决方案是分布式训练，它将训练工作量分布到多个计算节点。然而，对分布式GNN训练的工作流程、计算模式、通信模式和优化技术仍有初步了解。在本文中，我们通过研究分布式GNN训练中使用的各种优化技术，提供了分布式GNN训练的全面综述。首先，根据分布式GNN训练的工作流程将其分为几类;此外，还介绍了它们的计算模式和通信模式，以及最新工作提出的优化技术。其次，介绍了分布式GNN训练的软件框架和硬件平台，以加深对分布式GNN训练的了解。第三，将分布式GNN训练与深度神经网络的分布式训练进行了比较，强调了分布式GNN训练的唯一性。最后，讨论了该领域的研究热点和发展机遇。

内容中包含的图片若涉及版权问题，请及时与我们联系删除