1、【arXiv 2021】ChemRL-GEM: Geometry Enhanced Molecular Representation Learning for Property Prediction
作者：Xiaomin Fang, Lihang Liu, Jieqiong Lei,
Donglong He, Shanzhuo Zhang, Jingbo Zhou,
Fan Wang, Hua Wu, Haifeng Wang 第一作者方晓敏现任百度资深研发工程师
文章链接：https://arxiv.org/abs/2106.06130v1
文章导读：现有的gnn和预训练策略通常将分子视为拓扑图数据，没有充分利用分子的几何信息。然而，分子的三维空间结构，即分子的几何结构，是决定分子物理、化学和生物性质的最关键因素之一。该论文提出的模型ChemRL-GEM：设计了分子的双图:第一张图编码了原子与键的关系;第二张图编码键角关系。此外，在设计的GNN结构的基础上，论文也提出了几种新的几何级自监督学习策略，利用局部和全局分子三维结构学习空间知识。
2、【arxiv2021】LSP : Acceleration and Regularization of Graph Neural Networks via Locality Sensitive Pruning of Graphs
Aurhor：Eitan Kosman, Joel Oren, Dotan Di Castro
导读：图神经网络 (GNN) 已成为非常成功的图相关任务工具。然而，现实世界的问题涉及非常大的图，并且使 GNN 适合这些问题所需的计算资源迅速增长。此外，如果没有正确规范化，真实世界图的嘈杂性质和大小会导致 GNN 过拟合。令人惊讶的是，最近的工作表明，大图通常涉及许多冗余组件，这些组件可以在不影响性能的情况下被删除。这包括在通过 GNN 层进行推理期间的节点或边移除，或作为稀疏输入图的预处理步骤。这种有趣的现象使开发既高效又准确的最先进的 GNN 成为可能。在本文中，我们进一步揭开了这一现象的神秘面纱，并提出了一种称为局部敏感剪枝 (LSP) 的系统方法，用于基于局部敏感哈希的图剪枝。我们的目标是稀疏图，以便原始图的相似局部环境在生成的稀疏图中产生相似的环境，这是与图相关的任务的基本特征。为了证明基于局部图属性的剪枝应用的合理性，我们举例说明了在各种场景中应用基于局部性属性的剪枝优于其他剪枝策略的优势。对合成和真实世界数据集的大量实验证明了 LSP 的优越性，它在不影响性能的情况下从大图中删除了大量边，并伴随着相当大的加速。
链接：[2111.05694] LSP : Acceleration and Regularization of Graph Neural Networks via Locality Sensitive Pruning of Graphs (arxiv.org)
Aurhor：Eitan Kosman, Joel Oren, Dotan Di Castro
导读：图神经网络 (GNN) 已成为非常成功的图相关任务工具。然而，现实世界的问题涉及非常大的图，并且使 GNN 适合这些问题所需的计算资源迅速增长。此外，如果没有正确规范化，真实世界图的嘈杂性质和大小会导致 GNN 过拟合。令人惊讶的是，最近的工作表明，大图通常涉及许多冗余组件，这些组件可以在不影响性能的情况下被删除。这包括在通过 GNN 层进行推理期间的节点或边移除，或作为稀疏输入图的预处理步骤。这种有趣的现象使开发既高效又准确的最先进的 GNN 成为可能。在本文中，我们进一步揭开了这一现象的神秘面纱，并提出了一种称为局部敏感剪枝 (LSP) 的系统方法，用于基于局部敏感哈希的图剪枝。我们的目标是稀疏图，以便原始图的相似局部环境在生成的稀疏图中产生相似的环境，这是与图相关的任务的基本特征。为了证明基于局部图属性的剪枝应用的合理性，我们举例说明了在各种场景中应用基于局部性属性的剪枝优于其他剪枝策略的优势。对合成和真实世界数据集的大量实验证明了 LSP 的优越性，它在不影响性能的情况下从大图中删除了大量边，并伴随着相当大的加速。
链接：[2111.05694] LSP : Acceleration and Regularization of Graph Neural Networks via Locality Sensitive Pruning of Graphs (arxiv.org)
3、论文标题：Semi-Supervised and Self-Supervised Classification with Multi-View Graph Neural Networks
作者：Jinliang Yuan，Hualei Yu，Meng Cao，Ming Xu，Junyuan Xie，Chongjun Wang,NanJing University
文章导读：在本文中，我们提出了一种新的见解，可以基于不需要深层结构的多视图来聚合更多有用的信息。具体来说，我们首先设计了两个互补的视图来描述节点的全局拓扑和特征相似性。然后我们设计了一种注意力策略来融合节点表示，命名为 Multi-View Graph Convolutional N etowrk(MV-GCN)。此外，我们引入了一种自监督技术，通过在不同视图上的对比学习来学习节点表示，该技术可以从大量未标记的数据中学习独特的节点嵌入，称为 Multi-View Contrastive Graph Convolutional Network(MV- CGC）。最后，我们对用于节点分类的六个公共数据集进行了广泛的实验，这证明了两个提出的模型与最先进的方法相比的优越性。
论文链接：https://dl.acm.org/doi/abs/10.1145/3459637.3482477
作者：Jinliang Yuan，Hualei Yu，Meng Cao，Ming Xu，Junyuan Xie，Chongjun Wang,NanJing University
文章导读：在本文中，我们提出了一种新的见解，可以基于不需要深层结构的多视图来聚合更多有用的信息。具体来说，我们首先设计了两个互补的视图来描述节点的全局拓扑和特征相似性。然后我们设计了一种注意力策略来融合节点表示，命名为 Multi-View Graph Convolutional N etowrk(MV-GCN)。此外，我们引入了一种自监督技术，通过在不同视图上的对比学习来学习节点表示，该技术可以从大量未标记的数据中学习独特的节点嵌入，称为 Multi-View Contrastive Graph Convolutional Network(MV- CGC）。最后，我们对用于节点分类的六个公共数据集进行了广泛的实验，这证明了两个提出的模型与最先进的方法相比的优越性。
论文链接：https://dl.acm.org/doi/abs/10.1145/3459637.3482477
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢