Gradient based Feature Attribution in Explainable AI: A Technical Review

黑盒AI模型的激增促使我们需要解释其内部机制并证明其可靠性，特别是在高风险应用中，如医疗保健和自动驾驶。由于缺乏可解释AI（XAI）的严格定义，因此已经开发了大量与可解释性、可解释性和透明度相关的研究，以从不同角度解释和分析模型。因此，随着大量论文的出现，全面了解来自各个方面的XAI研究变得具有挑战性。考虑到神经网络在AI研究中的普及，我们将重点放在特定领域的XAI研究上：基于梯度的解释，这可以直接用于神经网络模型。在本综述中，我们系统地探讨了迄今为止的基于梯度的解释方法，并引入了一种新的分类法将它们分为四个不同的类别。然后，我们按时间顺序介绍技术细节的实质，并强调算法的演变。接下来，我们介绍了人类和定量评估来衡量算法性能。更重要的是，我们展示了XAI的一般挑战以及基于梯度的解释所面临的具体挑战。我们希望这项调查可以帮助研究人员了解最新进展及其相应的缺点，从而激发他们在未来的工作中解决这些问题的兴趣。

解释性人工智能（XAI）的研究已经成为人工智能领域的热点，本文试图通过梳理梯度解释方法的研究进展，为研究者提供全面的XAI研究概览，同时强调梯度解释方法所面临的挑战。

本文系统地探讨了梯度解释方法的研究进展，并提出了一个新的分类法，将其分为四类。同时，本文介绍了算法的演变历程，并引入了人类和量化评估方法来衡量算法的性能。

本文的亮点包括：系统地梳理了梯度解释方法的研究进展，提出了新的分类法；介绍了算法的演变历程；引入了人类和量化评估方法来衡量算法的性能。此外，本文还探讨了XAI所面临的一般性和梯度解释方法所面临的特殊性挑战。

最近在XAI领域中，还有一些相关研究，例如：“Towards A Rigorous Science of Interpretable Machine Learning”、“A Survey of Methods for Explaining Black Box Models”等。