Neural Graph Pattern Machine

图学习任务要求模型理解与下游任务相关的本质子结构模式，例如社交网络中的三元闭合和分子图中的苯环。由于图的非欧几里得性质，现有的图神经网络（GNNs）依赖于消息传递来迭代地从局部邻域聚合信息。尽管在实证上取得了成功，但消息传递在识别基本子结构（如三角形）方面存在困难，限制了其表达能力。为了解决这一局限性，我们提出了神经图模式机（GPM），这是一种直接从图模式中学习的框架。GPM高效地提取和编码子结构，并识别对下游任务最相关的子结构。我们还证明了GPM相比消息传递具有更高的表达能力和更好的长程信息建模能力。在节点分类、链接预测、图分类和回归任务上的实证评估显示，GPM优于最新的基线方法。进一步分析揭示了GPM在分布外鲁棒性、可扩展性和可解释性方面的优势。我们认为GPM是超越消息传递的重要一步。

该论文试图解决现有图神经网络（GNNs）在处理非欧几里得数据时，由于依赖消息传递机制而难以有效识别基本子结构（如三角形）的问题。这限制了GNNs的表达能力，尤其是在需要理解复杂子结构的任务中。这是一个重要的问题，因为许多实际应用（如社交网络和分子图分析）依赖于对这些子结构的理解。

论文提出了一种新的框架——Neural Graph Pattern Machine (GPM)，旨在直接从图模式中学习。与传统的消息传递方法不同，GPM通过高效提取和编码子结构，并识别对下游任务最相关的子结构，从而增强了模型的表达能力和长程信息建模。这一思路的新颖之处在于它突破了传统GNNs的局限，提供了一种更直接、更有效的子结构学习方法。

论文的亮点包括：1) GPM在多个任务上的性能优于现有的SOTA模型，如节点分类、链接预测、图分类和回归；2) 实验设计涵盖了多种数据集，验证了GPM的泛化能力和鲁棒性；3) 研究表明GPM具有更好的解释性和可扩展性；4) 论文开源了代码，便于后续研究者复现和改进。未来值得深入的研究方向包括进一步探索GPM在更大规模图数据上的表现以及其在其他领域的应用。

最近在这个领域内的相关研究包括：1)《Higher-Order Graph Convolutional Networks》探讨了高阶图卷积网络以增强表达能力；2)《Principal Neighbourhood Aggregation for Graph Nets》提出了主邻域聚合方法来改进信息聚合；3)《Benchmarking Graph Neural Networks》为GNNs提供了基准测试，评估其在各种任务中的性能。