Unifying Perspectives: Plausible Counterfactual Explanations on Global, Group-wise, and Local Levels

随着监管和社会压力的增加，要求AI更加透明，特别是要理解复杂机器学习模型所做出的决策，反事实解释（CF）已经成为可解释AI（xAI）中的一种有前途的技术，提供了对单个模型预测的洞察。然而，为了理解AI模型的系统性偏见和不平等影响，必须超越局部CF，并采用全局解释，这提供了跨不同情境和人群的整体视图。不幸的是，生成全局反事实解释（GCE）面临着计算复杂性、定义“全局”范围以及确保解释既具有全球代表性又具有局部可信度方面的挑战。我们通过基于梯度的优化介绍了一种新的统一方法，用于为可微分类模型生成局部、分组和全局反事实解释，以解决这些挑战。这个框架旨在弥合个体和系统洞察之间的差距，实现对模型决策及其对不同人群的潜在影响的更深入的理解。我们的方法进一步创新，通过纳入概率可信度标准，增强了可操作性和可信度。通过提供GCE中优化和可信度挑战的协同解决方案，我们的工作显著提高了AI模型的可解释性和可追溯性，是追求透明AI的一大步。

解决问题：如何生成全局可解释性的反事实解释（GCEs），以深入了解AI模型决策和对不同人群的潜在影响？

关键思路：通过基于梯度的优化，提出了一种生成可区分分类模型的局部、组内和全局反事实解释的统一方法。此方法还引入了概率可信度标准，以增强可操作性和可信度。

亮点：该论文的方法提高了AI模型的可解释性和可追溯性，是透明AI的重要进步。实验中使用了多个数据集，包括Adult Income、COMPAS和German Credit等。论文还公开了代码和数据集，方便其他研究者进行复现和拓展。值得进一步探索的是如何将该方法应用于非可区分模型和更广泛的应用场景。

相关研究：最近的相关研究包括“局部和全局可解释性的比较”、“可解释性机器学习的综述”、“基于反事实的解释”等。