Energy-based Epistemic Uncertainty for Graph Neural Networks

在具有相互依赖数据的领域，例如图形，量化图神经网络（GNN）的认知不确定性是具有挑战性的，因为不确定性可能出现在不同的结构尺度上。现有技术忽略了这个问题，或者只是区分了具有结构感知和结构不可知不确定性，而没有将它们合并成一个单一的度量。我们提出了GEBM，一种能量基模型（EBM），通过聚合从图扩散中自然产生的不同结构层次上的能量，提供高质量的不确定性估计。与基于逻辑的EBM不同，我们通过正则化能量函数，可以在数据空间中引入可积密度。我们引入了我们的EBM的证据解释，显著提高了GNN的预测鲁棒性。我们的框架是一种简单而有效的后处理方法，适用于任何对各种分布转移敏感的预训练GNN。在7种异常类型中，它在6种类型上始终实现了最佳的内部和外部数据分离，同时在所有数据集上具有最佳的平均排名。

如何在图神经网络中量化认知不确定性是一个挑战，因为不确定性可能在不同的结构层面上产生。现有技术忽略了这个问题，或者只区分了结构感知和结构不可知的不确定性，而没有将它们合并成一个单一的度量。

本文提出了一种基于能量的模型（EBM），通过聚合不同结构层次上的能量来提供高质量的不确定性估计，这些层次自然地从图扩散中产生。与基于逻辑的EBM不同，我们通过正则化能量函数来证明在数据空间中引入可积密度。我们引入了我们的EBM的证据解释，显著提高了GNN的预测鲁棒性。

本文的框架是一种简单而有效的后处理方法，适用于任何对各种分布转移敏感的预训练GNN。在7种异常类型中，它在6种中始终实现了最佳的内部分布和外部分布的分离，并在所有数据集上具有最佳的平均排名。

最近的相关研究包括《Deep Graph Infomax》、《Graph Convolutional Networks》、《Graph Attention Networks》等。