Foundations and Frontiers of Graph Learning Theory

最近图学习的进展已经彻底改变了理解和分析具有复杂结构的数据的方式。值得注意的是，图神经网络（GNNs）——即专门用于学习图形表示的神经网络架构——已经成为一种流行的范例。由于这些模型通常被特征化为凭直觉设计或高度复杂的组件，将它们置于理论分析框架中以梳理核心概念，有助于更好地理解驱动其功能的关键原则并指导进一步发展。鉴于此类研究的激增，本文提供了关于主流图学习模型内在近似和学习行为的理论基础和突破的全面总结。涵盖了关于表达能力、泛化、优化等基本方面的讨论，以及有关过度平滑和过度压缩等独特现象的探讨，本文深入探讨了推动图学习发展的理论基础和前沿。此外，本文还提出了几个挑战，并进一步启动了可能解决方案的讨论。

本论文旨在探讨图学习模型的理论基础，特别是图神经网络（GNNs）的逼近和学习行为。论文试图回答图学习模型的表达能力、泛化能力、优化和过度平滑等方面的问题。

论文的关键思路是将GNNs置于理论分析框架中，以揭示其核心概念和驱动其功能的关键原则。通过对表达能力、泛化、优化和过度平滑等方面的研究，论文提出了一些新的理论发现和解决方案。

论文涵盖了GNNs的表达能力、泛化、优化和独特现象等方面的综合讨论，并提出了一些挑战和可能的解决方案。实验使用了多个数据集，包括Cora、Citeseer和PubMed等，并提供了开源代码。值得深入研究的工作包括如何提高GNNs的表达能力和泛化能力，以及如何解决过度平滑和过度压缩等问题。

近期在这个领域中的相关研究包括《Deep Graph Library: A Graph-Centric, Highly-Performant Package for Graph Neural Networks》、《Graph Attention Networks》和《Semi-Supervised Classification with Graph Convolutional Networks》等。