Explaining Graph Neural Networks via Structure-aware Interaction Index

本文引入了Myerson-Taylor交互指数，将图结构内在化到节点值和节点之间的交互值中，从而解释具有结构化输入的模型，例如图神经网络。与基于Shapley的方法不同，Myerson-Taylor指数将联盟分解为满足预先选择的连通性标准的组件。我们证明了Myerson-Taylor指数是唯一满足五个自然公理的指数，这些公理考虑了图结构和节点之间的高阶交互。利用这些性质，我们提出了Myerson-Taylor结构感知图解释器（MAGE），一种新的解释器，使用二阶Myerson-Taylor指数识别对模型预测产生积极和消极影响的最重要的模体。在各种图数据集和模型上的广泛实验表明，与最先进的方法相比，我们的方法始终提供更好的子图解释。

论文旨在解决图神经网络等结构化输入模型的可解释性问题，现有的Shapley值方法要么只关注节点重要性，要么在扰动输入实例时忽略了图结构，因此需要一种新的解释方法。

论文提出了Myerson-Taylor交互指数，将图结构内部化到节点值和节点之间的交互值中，同时将联盟分解为满足预选连通性标准的组件。该指数满足五个自然公理，解释了图结构和节点之间的高阶交互。利用这些性质，提出了Myerson-Taylor结构感知图解释器（MAGE），使用二阶Myerson-Taylor指数识别对模型预测产生最大影响的正面和负面子图。

论文的亮点包括提出了Myerson-Taylor交互指数，解决了图神经网络等结构化输入模型的可解释性问题。实验表明，与现有方法相比，MAGE能够提供更好的子图解释。使用了多个图数据集和模型，并开源了代码。

最近的相关研究包括使用Shapley值进行模型解释的方法，以及其他一些图神经网络的可解释性方法，如GraphGradCAM和GNNExplainer。