A Reliable Framework for Human-in-the-Loop Anomaly Detection in Time Series

时间序列异常检测是许多应用领域中的关键机器学习任务，如金融、医疗和工业系统。然而，即使高性能模型也可能存在潜在问题，如偏差，导致不可靠的结果和错误的信心。虽然模型解释技术，特别是可视化解释，通过阐明模型对其决策的归因提供了有价值的洞见，但仍存在许多局限性——它们主要是基于实例的，无法跨数据集进行可扩展，且它们提供的是从模型到人类的单向信息，缺乏用户解决检测到的问题的机制。为了弥补这些差距，我们介绍了HILAD，这是一个新颖的框架，旨在促进人类和AI之间的动态双向协作，以增强时间序列中的异常检测模型。通过我们的可视化界面，HILAD赋予领域专家在规模上检测、解释和纠正意外的模型行为的能力。我们对两个时间序列数据集和用户研究的评估表明，HILAD在促进更深入的人类理解、即时的纠正措施和模型可靠性增强方面是有效的。

如何通过可解释的人工智能方法提高时间序列异常检测模型的可靠性和解释性？

提出了一个名为HILAD的框架，通过可视化界面实现人工智能和人类之间的动态双向协作，帮助领域专家检测、解释和纠正时间序列异常检测模型的问题，从而提高模型的可靠性和解释性。

HILAD框架能够扩展到大规模数据集，并支持用户对检测到的问题进行及时的纠正和解释。实验使用了两个时间序列数据集，并进行了用户研究以验证框架的有效性。

近年来，可解释性人工智能在时间序列异常检测领域受到越来越多的关注。相关研究包括《Interpretable Anomaly Detection with Hierarchical Attention Mechanism on Time Series》和《Interpretable Time Series Anomaly Detection Using Wasserstein Autoencoder and Attention-based Sampling》等。