Leveraging Activations for Superpixel Explanations

"Saliency methods"已成为深度神经网络解释工具箱中的标准。针对图像分类器的最新发展研究了基于区域的解释，使用新方法或通过使用特定的超像素算法进行改进。本文旨在通过从深度神经网络图像分类器的激活中提取分割来避免依赖这些分割器，而无需微调网络。我们所谓的神经激活超像素（NAS）可以隔离与模型预测相关的输入中的感兴趣区域，从而提高高阈值弱监督对象定位性能。这个特性使得半监督语义评估显得容易。将NAS与现有的显著性方法进行聚合可以简化它们的解释，并揭示广泛使用的相关性曲线下面积度量的不一致性。

本论文旨在提出一种新的方法，通过从深度神经网络图像分类器的激活中提取分割来解决区域解释的问题，从而提高弱监督目标定位的性能。

本论文提出了一种名为Neuro-Activated Superpixels（NAS）的方法，该方法可以从深度神经网络图像分类器的激活中提取分割，而无需微调网络，从而实现对模型预测相关的输入感兴趣的区域的隔离。

本论文的亮点在于，NAS方法可以提高高阈值弱监督目标定位性能，从而实现半监督语义评估。此外，NAS与现有显著性方法的聚合可以促进它们的解释，并揭示广泛使用的关键区域曲线下面积度量的不一致性。

最近的相关研究包括使用超像素算法的区域解释方法，以及探索新方法或通过使用特定于图像分类器的适应性方法来适应已建立的方法。