本文介绍一篇伊利诺伊大学厄巴纳-香槟分校的研究者发表在ICLR2021上的论文“adaptive universal generalized PageRank graph neural network”。这篇文章引入新的广义PageRank图神经网络,不仅优化了拓扑信息和节点特征的提取,也有效防止过平滑的发生。该模型在合成数据和基准数据集上表现优越。

论文链接:

https://openreview.net/pdf?id=n6jl7fLxrP

代码:

https://github.com/jianhao2016/GPRGNN

现存的大多数图神经网络(GNNs)基本上有两个弱点。其一就是它们设计的邻居聚合基本上是遵从同质性假设,即相连的节点有同样的标签。但现实中很多图数据都具有异质性,如约会社交,异性恋居多因此不同性别的人通常是连接起来的。所以,传统的邻居聚合在具有异质性的图上运用是有问题的。其二是过平滑,很多邻居聚合都存在过平滑现象,通常只能做到2-4层,更深的图神经网络模型会学习到无分辨能力的节点表达,从而导致性能衰退。

这篇论文提出广义PageRank架构来处理上述两个问题。所谓广义PageRank(GPR)就是将每一步特征传递结果用一个可学习的权重累加,这个权重允许其可以正可以负,以适应同质图和异质图的需要。实验证明了论文提出的模型的优越性能,超越了SOTA方法。

内容中包含的图片若涉及版权问题,请及时与我们联系删除