RankingSHAP -- Listwise Feature Attribution Explanations for Ranking Models

特征归因是一种常用的解释类型，用于在训练模型后解释预测结果。然而，在信息检索领域中，这种方法并没有得到很好的探索。重要的是，除了将最重要的特征归因为最高值之外，很少有对特征归因进行严格定义。什么样的特征比其他特征更重要通常是含糊不清的。因此，大多数方法只关注选择最重要的特征，忽略了特征内部的相对重要性，甚至忽略了它们。在这项工作中，我们严格定义了排名模型的特征归因概念，并列出了一个有效的归因应具备的基本属性。然后，我们提出了RankingSHAP作为一种具体的列表式排名归因方法。与当前的解释评估方案侧重于选择不同，我们提出了两种新颖的评估范式，用于评估学习排名模型的归因。我们评估了RankingSHAP在常用的学习排名数据集上，展示了这种归因方法更加微妙的使用方式，同时强调了基于选择的解释的局限性。在一个模拟实验中，我们设计了一个可解释的模型，以演示如何使用列表式排名属性来调查模型决策并定性评估解释。由于排名任务的对比性质，我们对排名模型决策的理解可以从类似RankingSHAP的特征归因解释中获得实质性的益处。

本文旨在为排名模型的解释提供更加严谨的定义和方法，解决当前特征归因方法的不足。

本文提出了一种基于排名的特征归因方法RankingSHAP，并通过两种新的评估范式对其进行了评估。相较于现有的特征选择方法，RankingSHAP更加注重特征之间的相对重要性。

本文设计了实验来展示RankingSHAP在解释排名模型决策方面的优势，并通过仿真实验展示了如何使用排名特征归因方法来研究模型决策并进行定性评估。本文的方法和评估范式对于排名模型解释的研究具有重要意义。

与本文相关的研究包括特征归因方法的研究，以及排名模型解释的研究。其中，一些相关研究包括《Explaining the Predictions of Graph Neural Networks: An Empirical Study》和《Explainable Recommendation: A Survey and New Perspectives》。