【论文标题】Self-Supervised Graph Representation Learning via Topology Transformations
【作者团队】Xiang Gao, Wei Hu, Guo-Jun Qi
【发表时间】2021/05/25
【机构】北京大学
【论文链接】https://arxiv.org/pdf/2105.09511.pdf
本文出自北京大学,作者从信息论的角度出发,提出了一种拓扑变换等变性自监督学习范式,可以通过最大化变换前后的拓扑变换和节点表征之间的互信息,实现对图的编码。
在本文中,作者提出了拓扑变换等变表征学习,这是一种用于图数据节点表示的自监督学习的通用范式,以使图卷积神经网络(GCNN)具有广泛的适用性。
本文作者从信息论的角度,通过最大化变换前后的拓扑变换和节点表征之间的互信息,形式化定义了本文提出的模型。作者推导出,最大化这种互信息可以松弛到应用拓扑变换和其根据节点表征进行估计之间的交叉熵。具体而言,作者试图从原始图中采样一个节点对的子集,并翻转每个节点对之间的边连通性来变换图的拓扑结构。然后,作者自训练了一个表征编码器,通过根据原始图和变换图的特征表征重构拓扑变换来学习节点表征。在实验中,作者将本文所提出的模型应用于下游节点和图分类任务,结果表明,所提出的方法优于现有的无监督方法。
图 1:模型架构示意图
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢