Using LLMs for Explaining Sets of Counterfactual Examples to Final Users

因果关系对于理解预测模型内变量之间真正的因果关系是至关重要的，而不是仅仅依赖相关性，因此在可解释人工智能领域非常相关。在自动决策场景中，因果推断方法可以分析潜在的数据生成过程，通过操纵特征和创建反事实例来解释模型的决策。这些反事实情景探讨了在改变最少的因素的情况下的假设场景，为最终用户提供有价值的信息，以了解如何改变他们的情况。然而，对于不习惯分析原始数据记录的最终用户来说，解释一组多个反事实情景可能很具有挑战性。在我们的工作中，我们提出了一种新颖的多步骤流程，使用反事实情景来生成自然语言解释，说明如何通过LLMs对表格数据分类器中的操作进行更改以改变结果。该流程旨在通过模拟人类推理来引导LLM完成解释基于反事实情况的决策的较小任务。我们使用公共数据集进行了各种实验，并提出了一种闭环评估方法来评估最终解释与反事实情景的连贯性以及内容的质量。结果是有希望的，尽管还应进行其他数据集和人类评估的进一步实验。

如何使用因果推断方法生成自然语言解释来解释分类器的决策？

使用因果推断方法来分析数据生成过程，生成反事实案例，然后使用LLMs（语言模型）生成自然语言解释。

论文提出了一个使用反事实案例生成自然语言解释的多步骤流程，进行了多个实验，并提出了一种闭环评估方法来评估最终解释的连贯性和内容质量。

最近的相关研究主要集中在因果推断方法和自然语言生成方面，如《Causal Inference for Interpretable Machine Learning: An Overview》、《Neural Natural Language Generation with Causal Graphs》等。