Explainable AI (XAI) in Image Segmentation in Medicine, Industry, and Beyond: A Survey

本文介绍了人工智能（XAI）在计算机视觉中的广泛应用。虽然基于图像分类的可解释性技术引起了广泛关注，但在语义分割方面的技术却相对被忽视。鉴于图像分割的广泛应用范围，从医疗到工业部署，这些技术值得系统地研究。本文提出了第一份关于XAI在语义图像分割中的综合调查。本文重点介绍了针对密集预测任务专门引入的技术或通过修改分类中的现有方法扩展的技术。我们根据应用类别和领域、评估指标和使用的数据集对文献进行了分析和分类。我们还提出了一个可解释的语义分割分类法，并讨论了潜在的挑战和未来的研究方向。

本论文旨在研究和总结语义图像分割中的可解释性技术。相比于图像分类的可解释性技术，语义分割领域的可解释性技术相对较少，因此需要进行系统的研究。

论文提出了一种基于应用类别和领域、评估指标和数据集的分类方法，分析和归纳了语义分割领域中的可解释性技术，并提出了可解释性语义分割的分类方法和潜在挑战以及未来研究方向。

论文的亮点包括：分类方法的提出、对不同应用场景和数据集的分析、对可解释性语义分割的分类方法的提出、对未来研究方向的讨论。

最近的相关研究包括：《Explainable AI: A Survey》、《Interpretable Machine Learning: A Review》等。