Expected Grad-CAM: Towards gradient faithfulness

尽管输入梯度技术已经发展到可以缓解和解决与梯度相关的挑战，但现代的梯度加权CAM方法仍然依赖于基本梯度，这种方法本质上容易受到饱和现象的影响。尽管最近的改进已经采用对抗性梯度策略作为缓解措施，但这些局部解释技术仍然缺乏对基线参数的敏感性。我们的工作提出了一种梯度加权CAM增强方法，通过重新塑造梯度计算，结合两种成熟和可证明的方法：期望梯度和核平滑，解决了饱和和敏感性问题。通过重新审视原始公式，将其视为扰动积分梯度的平滑期望，可以同时构建更忠实、局部和稳健的解释，从而最小化不忠实度。通过微调扰动分布，可以调节解释的复杂性特征，有选择地区分稳定特征。我们的技术Expected Grad-CAM与最近的工作不同，它专门优化梯度计算，旨在成为基础Grad-CAM算法及其任何基于该算法构建的方法的增强替代品。我们进行了定量和定性评估，以评估我们方法的有效性。

本论文旨在解决现有梯度加权CAM方法中存在的饱和和敏感性问题，提出了一种新的Expected Grad-CAM方法。

Expected Grad-CAM方法通过重新塑造梯度计算，结合Expected Gradients和kernel smoothing两种方法，构建更准确、更局部和更稳健的解释，同时最小化不忠实度。通过微调扰动分布，可以调节解释的复杂性特征，有选择地区分稳定特征。

论文进行了定量和定性评估，证明了Expected Grad-CAM方法的有效性。实验使用了多个数据集，论文提供了开源代码。该方法的亮点在于解决了梯度加权CAM方法中的饱和和敏感性问题，同时提供了更准确、更局部和更稳健的解释。

最近的相关研究包括Counterfactual Gradient CAM和其他基于梯度的CAM方法。