SlotGAT: Slot-based Message Passing for Heterogeneous Graph Neural Network

异构图在建模复杂数据时非常常见。强大的异构图神经网络对于有效支持重要应用有着迫切的需求。我们在现有的消息传递过程中发现了一个潜在的语义混合问题，即节点$v$的邻居的表示被强制转换到$v$的特征空间进行聚合，尽管邻居属于不同的类型。也就是说，不同节点类型中的语义被缠绕在一起，形成了节点$v$的表示。为了解决这个问题，我们提出了SlotGAT，它在不同的插槽中使用独立的消息传递过程，每个插槽对应一个节点类型，以维护它们自己的节点类型特征空间中的表示。此外，在基于插槽的消息传递层中，我们设计了一个注意机制，用于有效地进行插槽级别的消息聚合。此外，我们在SlotGAT的最后一层之后开发了一种插槽注意技术，以学习下游任务中不同插槽的重要性。我们的分析表明，SlotGAT中的插槽可以保留各种特征空间中的不同语义。我们将SlotGAT与6个数据集上的13个基线进行了节点分类和链接预测的对比，结果表明SlotGAT的优越性。我们的代码位于https://github.com/scottjiao/SlotGAT_ICML23/.

论文旨在解决异构图神经网络中的语义混合问题，提出了一种基于槽位的异构图神经网络模型SlotGAT。

SlotGAT通过在每个节点类型的槽位中分别进行消息传递，以保持表示在其自己的节点类型特征空间中，解决了节点的邻居来自不同类型的问题，并设计了一种槽位注意力机制来有效地进行槽位间的消息聚合。

论文在6个数据集上对SlotGAT进行了节点分类和链接预测的实验，并与13个基线模型进行了比较，表明SlotGAT在性能上具有优越性。此外，论文提供了开源代码。

近期的相关研究包括HAN、R-GCN和GTN等。