MiMICRI: Towards Domain-centered Counterfactual Explanations of Cardiovascular Image Classification Models

近来，公开可访问的大型医学影像数据集的普及导致了人工智能（AI）模型在心血管图像分类和分析方面的大量应用。同时，这些模型可能产生的重大影响促使了一系列可解释的AI（XAI）方法的发展，旨在解释给定某些图像输入的模型预测。然而，许多这些方法并没有与领域专家一起开发或评估，并且解释没有在医学专业知识方面进行上下文化。在本文中，我们提出了一个新的框架和Python库MiMICRI，为心血管图像分类模型提供基于领域的反事实解释。MiMICRI帮助用户交互式地选择和替换与形态结构相对应的医学图像片段。从生成的反事实中，用户可以评估每个片段对模型预测的影响，并根据已知的医学事实验证模型。我们与两位医学专家一起评估了这个库。我们的评估表明，领域中心的XAI方法可以增强模型解释的可解释性，并帮助专家根据相关领域知识推理模型。然而，也提出了关于所生成的反事实的临床可信度的担忧。最后，我们讨论了MiMICRI框架的普适性和可信度，以及我们的研究结果对于开发针对医疗保健背景下模型可解释性的领域中心XAI方法的影响。

MiMICRI论文旨在提出一种基于领域的可解释人工智能方法，用于解释心血管图像分类模型的预测，并与医学专家进行验证和评估。此外，该论文还试图解决可解释人工智能方法中缺乏领域专家参与的问题。

MiMICRI提供一种交互式的方法，让用户选择并替换与形态结构对应的医学图像片段，从而生成反事实解释。通过生成的反事实解释，用户可以评估每个片段对模型预测的影响，并根据已知的医学事实验证模型。该方法有助于专家理解模型的解释，并结合相关领域知识进行推理。

MiMICRI提供了一个基于领域的可解释人工智能方法，解释心血管图像分类模型的预测，与医学专家进行验证和评估。该方法提供了交互式选择和替换医学图像片段的功能，生成反事实解释，帮助用户评估每个片段对模型预测的影响，并根据医学事实验证模型。此外，论文还讨论了MiMICRI框架的普适性和可信度，以及领域中心化可解释人工智能方法对于医疗保健领域模型可解释性的发展的影响。

最近在这个领域中，还有一些相关的研究，如："Explainable Artificial Intelligence (XAI) in Healthcare: Past, Present, and Future"，"Explainable Deep Learning for Pulmonary Disease Diagnosis with Chest X-rays"，"A review of explainable artificial intelligence (XAI) for medical decision-making"等。