Counterfactual Explanations for Multivariate Time-Series without Training Datasets

机器学习（ML）方法在过去十年中经历了显著的增长，但它们在高影响的现实世界领域的实际应用受到了它们的不透明性的阻碍。当ML方法负责做出关键决策时，利益相关者经常需要了解如何改变这些决策。反事实解释（CFE）已经成为一种解决方案，提供了对不透明ML模型的解释，并提供了从一个决策过渡到另一个决策的路径。然而，大多数现有的CFE方法需要访问模型的训练数据集，很少有方法可以处理多变量时间序列，也没有方法可以处理没有训练数据集的多变量时间序列。这些限制在许多情况下可能是难以克服的。在本文中，我们提出了CFWoT，一种基于强化学习的新型CFE方法，可以在没有训练数据集的情况下生成CFE。CFWoT是模型无关的，适用于具有连续和离散特征的静态和多元时间序列数据集。用户可以灵活地指定不可操作的、不可变的和首选的特征，以及因果约束，CFWoT保证将遵守这些约束。我们在几个数据集上展示了CFWoT相对于四个基线的性能，并发现尽管没有访问训练数据集，CFWoT找到的CFE对输入时间序列所做的更改明显更少、更小。这些特性使CFE更具可操作性，因为改变结果所需的幅度大大降低了。

本文试图解决机器学习方法在高影响实际应用中的不透明性问题，提出了反事实解释作为解决方案。

本文提出了一种基于强化学习的反事实解释方法CFWoT，可以在没有训练数据集的情况下生成反事实解释，适用于静态和多元时间序列数据集，具有连续和离散特征。

CFWoT是模型无关的，用户可以指定不可行动的、不可变的和首选的特征，以及因果约束。实验结果表明，CFWoT相比于四个基准方法，可以使输入时间序列的更改数量和更改大小显著减少，使反事实解释更具可行性。

在相关研究方面，近年来已经有许多关于反事实解释的研究，如AIX360、CF、CEVAE等。