DeepCSHAP: Utilizing Shapley Values to Explain Deep Complex-Valued Neural Networks

深度神经网络广泛应用于学术、企业和公共应用程序，包括健康护理和自动驾驶等安全关键应用程序。解释它们的输出对于安全原因以及申请者的接受度至关重要。已经提出了多种方法来解释实值神经网络。最近，复数神经网络已经成为一种新的神经网络类别，处理复数输入数据而无需将它们投影到 $\mathbb{R}^2$。这引出了开发这种神经网络的解释算法的需求。在本文中，我们提供了这些发展。虽然我们专注于将广泛使用的 DeepSHAP 算法适应于复杂领域，但我们还提供了四种梯度解释方法的版本，适用于复数神经网络。我们评估了所有呈现算法的解释质量，并将它们作为开源库提供，可适应最近的复数神经网络架构。

解决问题：论文试图解决复数域神经网络的解释问题，以及为这类神经网络提供可解释性算法。这是否是一个新问题？

关键思路：论文提出了适用于复数域神经网络的四种基于梯度的解释算法，并将常用的DeepSHAP算法进行了改进。这些算法在复数域中提供了可解释性，为复数域神经网络的应用提供了保障。相比当前这个领域的研究状况，这篇论文提供了适用于复数域神经网络的解释算法，填补了这一领域的空白。

其他亮点：论文通过实验评估了所提出的算法的解释质量，并将所有算法提供为开源库，适用于大多数复数域神经网络架构。该论文的实验使用了多个数据集，并在健康医疗和自动驾驶等安全关键应用中进行了评估。值得继续深入研究的工作包括更多的复数域神经网络应用和算法改进。

相关研究：最近的相关研究包括针对复数域神经网络的其他可解释性算法的探索，如基于梯度的CAM方法和基于特征映射的可视化方法。