Layer-Wise Relevance Propagation with Conservation Property for ResNet

透明化解释方法对于阐明神经网络的预测至关重要，因为神经网络通常是黑盒模型。逐层透明化反向传播（LRP）是一种成熟的方法，通过反向传播相关性得分，透明地沿着模型预测的路径追踪其体系结构。然而，传统的LRP并未充分考虑跳跃连接的存在，因此其在广泛使用的ResNet体系结构上的应用尚未得到充分探索。在本研究中，我们通过在跳跃连接的输出与残差块的输出相汇合的点引入相关性分裂，将LRP扩展到ResNet模型。我们的公式保证了整个过程中的相关性得分守恒性，从而保持了生成的解释的完整性。为了评估我们方法的有效性，我们在ImageNet和Caltech-UCSD Birds-200-2011数据集上进行了实验。我们的方法在标准评估指标（如插入-删除分数）上实现了优越的性能，同时保持了其守恒性质。我们将在https://5ei74r0.github.io/lrp-for-resnet.page/发布我们的代码，以供进一步研究。

本论文旨在解决神经网络模型中跳跃连接的问题，通过扩展传统的Layer-wise Relevance Propagation (LRP)方法，提出了一种新的Relevance Splitting方法，以在ResNet模型中更好地追踪模型预测的可解释性。

论文提出了一种新的Relevance Splitting方法，以在ResNet模型中更好地追踪模型预测的可解释性。

论文通过实验验证了新方法的有效性和优越性，同时保持了生成解释的完整性。实验使用了ImageNet和Caltech-UCSD Birds-200-2011数据集，并将代码开源以供进一步研究。

在这个领域中，最近的相关研究包括：'Explaining the Predictions of Any Classifier'、'Visualizing and Understanding Convolutional Networks'等。