Interpretable Prognostics with Concept Bottleneck Models

近年来，深度学习方法已广泛应用于工业资产预测。然而，它们仍然缺乏可解释性，这限制了它们在安全关键应用中的应用。为了提高它们的可信度，可解释的人工智能（XAI）技术已应用于预测，主要是使用事后归因方法量化输入变量对预测剩余寿命（RUL）的重要性。在本文中，我们提出将概念瓶颈模型（CBMs）应用于RUL预测任务，CBMs是一类基于概念解释的内在可解释性神经网络体系结构。与解释方法不同，后者用低级输入特征解释决策，概念代表易于用户理解的高级信息。此外，一旦在实际应用中得到验证，CBMs可以使领域专家在测试时干预概念激活。我们建议使用资产不同的退化模式作为中间概念。我们在新商业模块化航空推进系统模拟（N-CMAPSS）飞机发动机数据集上进行的案例研究表明，CBMs的性能可以与黑盒模型相当或更好，同时更具可解释性，即使可用的标记概念有限。代码可在\href{https://github.com/EPFL-IMOS/concept-prognostics/}{\url{github.com/EPFL-IMOS/concept-prognostics/}}上找到。

本文旨在解决深度学习在工业资产预测中存在的解释性不足问题，提出了一种基于概念解释的神经网络结构，用于预测剩余寿命。

本文提出了概念瓶颈模型（CBMs），将资产的不同退化模式作为中间概念，提高了预测模型的可解释性和可操作性。

本文的实验使用了N-CMAPSS飞机发动机数据集，证明CBMs模型的性能可以与黑盒模型相媲美，但更易于解释和操作。代码已公开。

最近的相关研究包括使用后验归因方法量化输入变量对剩余寿命预测的重要性。