Explainable bank failure prediction models: Counterfactual explanations to reduce the failure risk

银行破产预测模型的准确性和可理解性至关重要。虽然像逻辑回归这样的可解释模型因其可解释性而备受青睐，但随机森林、支持向量机和深度学习等复杂模型提供更高的预测性能，但解释性较低。这些模型被称为黑盒子，很难得出可操作的见解。为了解决这个挑战，建议使用反事实解释。这些解释展示了输入变量的变化如何改变模型输出，并提出了减少银行破产风险的方法。关键挑战在于选择生成有用反事实的最有效方法，这些反事实应该表现出有效性、接近性、稀疏性和可信度。本文评估了几种反事实生成方法：WhatIf、多目标和最近实例反事实解释，并探讨了重新采样方法，如欠采样、过采样、SMOTE和成本敏感方法，以解决美国银行破产预测中的数据不平衡问题。结果表明，最近实例反事实解释方法使用成本敏感方法能够产生更高质量的反事实解释。总体而言，多目标反事实和最近实例反事实解释方法在有效性、接近性和稀疏性指标方面优于其他方法，成本敏感方法提供了最理想的反事实解释。这些发现突显了反事实生成方法在不同平衡策略和机器学习模型之间性能的可变性，为增强黑盒银行破产预测模型的效用提供了有价值的策略。

如何通过对银行破产风险进行预测并生成可操作的解释，解决黑盒模型的可解释性问题？

使用反事实解释方法生成高质量的可操作解释，结合成本敏感方法处理数据不平衡问题，提高黑盒模型的可解释性和预测性能。

论文评估了多种反事实解释方法在处理数据不平衡问题时的性能，发现最优方法是使用成本敏感方法的最近实例反事实解释方法。同时，多目标反事实解释方法和最近实例反事实解释方法在有效性、接近度和稀疏度等指标上表现较好。

最近的相关研究包括：\"Interpretable Machine Learning: A Brief History, State-of-the-Art and Challenges\"，\"Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR\"等。