【论文标题】Design Space for Graph Neural Networks 【作者团队】Jiaxuan You，Rex Ying，Jure Leskovec 【发表时间】2020/11/17 【论文链接】https://arxiv.org/abs/2011.08843 【代码链接】https://github.com/snap-stanford/graphgym

【推荐理由】 本文出自斯坦福大学 Jure Leskovec 团队，已被 NeurIPS 2020 收录为 Spotlight 论文，作者从更一般的视角出发，提出了通用的 GNN 设计空间与人物空间，实现了从研究如何设计针对特定任务的单个 GNN 到系统地研究 GNN 设计空间和任务空间的转变。

随着图神经网络(GNN)的快速发展，人们设计出了越来越多的新型 GNN 架构，提出了许多新的应用。然而，当前的研究侧重于提出和评估特定的 GNN 架构设计（例如，GCN、GIN、GAT），而不是研究更一般的由不同设计维度（例如，网络的层数或聚合函数的类型）的笛卡尔积组成的 GNN 的设计空间。此外，GNN 通常专门针对单个任务而设计，但很少有人试图研究如何快速为新任务或新数据集找到最佳的 GNN 设计。在本文中，作者定义并系统地研究了GNN 的架构设计空间，它包含了超过 32 种不同的预测任务的 315,000 种不同的设计。本文提出的方法包含以下三个主要创新：(1)一个通用的 GNN 设计空间；(2)具有相似度度量的 GNN 任务空间，从而对于给定的新任务/数据集可以快速识别/迁移性能最好的架构；(3)一种高效的设计空间评价方法，可以从大量的「模型-任务」组合中蒸馏知识。 本文得出的主要结论包括：(1)一套全面的指导如何设计性能良好的 GNN 的方针；(2)虽然针对不同的任，最佳的 GNN 设计存在显著差异，但 GNN 任务空间使我们可以在不同任务之间迁移最佳设计；(3)利用本文提出的设计空间发现的模型获得了目前最优的性能。

图 1：GNN 设计空间和任务空间概览。
总而言之，本文的工作提供了一种原则性的、可扩展的方法，实现了从研究针对特定任务的单个 GNN 设计到系统地研究 GNN 设计空间和任务空间的转变。 此外，本文作者还发布了 GraphGym，这是一种用于探索不同 GNN 设计和任务的强大平台。GraphGym 具有模块化的 GNN 实现、标准化的 GNN 评估和可复现和可扩展的实验流程。

内容中包含的图片若涉及版权问题，请及时与我们联系删除