近期,在国际顶级图学习基准评测榜单OGB(Open Graph Benchmark)中,微信支付与微信看一看embedding联合团队(zhitao、joyce、brian、yuanhang、justin),凭借在边性质预测任务方面的出色表现,在学者合作网络、药物反应网络以及学术引用网络三个数据集的边预测竞赛中分列第一名、第一名和第二名。

该任务主要是基于观测到的图结构,预测未来会出现或未观测到的边关系。边预测算法可以广泛应用在如蛋白质交互检测、欺诈检测,朋友推荐以及商品推荐等多个工业界场景中。

参赛方案已整理成论文:

论文标题:

Pairwise Learning for Neural Link Prediction

论文链接:

https://arxiv.org/pdf/2112.02936.pdf

技术介绍:

边预测有两个特性,第一个特性是数据极度不均衡,由于现实世界中绝大多数图结构数据的天然稀疏性,正样本(有边关系的节点对)数量和负样本(无边关系的节点对)通常是极度不均衡的。第二个特性是旨在给出正样本相比于负样本更高的排序,并不需要给出明确的分类标签。

针对以上两个特性,我们提出了一种更优的图神经网络边预测模型的学习算法,PLNLP。该算法利用Pairwise Learning to Rank的思路而非传统的二分类思路,对图神经网络边预测模型进行参数优化学习。如下图所示,PLNLP整体分为邻域编码器、边预测器、目标函数、负采样器等四个模块。

在邻域编码器模块,通用节点级别的图神经网络和定制的边级别的图神经网络都可以在这套算法框架下应用,具备良好的兼容性。在边预测器模块,引入了不同的打分函数能够适应有向图或无向图等不同性质的图数据。在目标函数模块,通过设计更贴近目标的损失函数,使得模型能够得到更优的参数学习。在负采样模块设计了多种采样策略,并且提出了一种负例共享机制使得模型的学习效率得到了提升,同时在输入侧还融合了数据增强技术进一步提升了算法的效果。

 

 

内容中包含的图片若涉及版权问题,请及时与我们联系删除