Causal Concept Embedding Models: Beyond Causal Opacity in Deep Learning

因果不透明性指的是理解深度神经网络（DNN）推理背后“隐藏”的因果结构的困难。这导致无法依赖和验证最先进的基于DNN的系统，特别是在高风险情况下。因此，因果不透明性代表了深度学习、可解释性和因果性交叉点上的一个重要开放挑战。本研究通过引入因果概念嵌入模型（Causal CEMs），一类决策过程因果透明的可解释模型，来解决这一差距。我们的实验结果表明，因果CEMs可以：（i）匹配因果不透明模型的泛化性能，（ii）支持干预和反事实情景的分析，从而提高模型的因果可解释性并支持其可靠性和公平性的有效验证，以及（iii）使人类在预测中间推理步骤出错时进行纠正，不仅可以提高纠正后的下游准确性，还可以提高对特定实例提供的解释的准确性。

解决因果不透明问题，提高深度学习模型的可解释性和可靠性，特别是在高风险场景下。

引入一种新的可解释模型——因果概念嵌入模型（Causal CEMs），通过设计使其决策过程具有因果透明性，从而提高模型的可解释性和可靠性。

实验结果表明，因果概念嵌入模型可以与因果不透明模型的推广性能相匹配，并支持干预和反事实场景的分析，从而提高模型的因果可解释性并支持其可靠性和公平性的有效验证。此外，该模型还支持人机交互式的中间推理步骤纠正，提高了后续的准确性和解释性。

最近的相关研究包括：《因果推理在机器学习中的应用》、《因果关系推断的新方法》、《因果关系的可解释性学习》等。