Applications of interpretable deep learning in neuroimaging: a comprehensive review

临床采用深度学习模型的推广受到阻碍，部分原因是神经网络的黑盒特性引发了人们对其可靠性和可信度的担忧。由于复杂的脑表型和多样性的受试者群体常常存在，这些顾虑在神经影像领域尤为相关。可解释的深度学习（iDL）方法可以解决这一挑战，使得深度学习模型的内部工作可视化和解释。本研究系统地回顾了神经影像领域iDL方法的文献，并对iDL解释属性的评估进行了批判性分析。共纳入了75篇研究，确定了10种iDL方法类别。此外，我们还回顾了包括生物学有效性、鲁棒性、连续性、选择性和下游任务表现在内的5个iDL解释属性在纳入研究中的分析情况。我们发现，在文献中最流行的iDL方法可能不适合神经影像数据，并讨论了该领域的可能未来发展方向。

解释性深度学习方法在神经影像学中的应用和评估

本研究系统地回顾了神经影像学中解释性深度学习方法的文献，并对如何评估解释性深度学习方法的解释性质进行了批判性分析。

本研究发现，文献中最受欢迎的解释性深度学习方法可能不适用于神经影像数据，并探讨了未来的研究方向。

最近的相关研究包括：'A survey on deep learning in medical image analysis'，'Interpretability of machine learning models: an overview'，'Visualizing and Understanding Convolutional Networks'等。