Graphical Perception of Saliency-based Model Explanations

近年来，人们致力于解释基于预测和深度学习的模型，并因此而研究如何评估这些解释。其中一类重要的评估方法是以人为中心的，通常需要通过可视化的方式传达解释。虽然可视化在感知和理解模型解释方面发挥了关键作用，但可视化设计如何影响人们对解释的感知仍不太清楚。在这项工作中，我们研究了模型解释的图形感知，具体来说，是针对视觉识别模型的基于显著性的解释。我们提出了一个实验设计，以研究可视化设计如何影响人类感知，其中我们研究了对齐评估任务，即显著性地图是否与图像中的对象对齐。我们的研究发现，与可视化设计决策、对齐类型和显著性地图质量相关的因素都在人类感知基于显著性的视觉解释方面发挥着重要作用。

研究图形知觉对于模型解释的影响，特别是针对视觉识别模型的显著性解释。研究任务是评估对齐性，即显著性图是否与图像中的对象对齐。

研究可视化设计决策、对齐类型和显著性图质量等因素对于人类感知显著性解释的影响。

实验设计了一种评估显著性解释的方法，并发现可视化设计、对齐类型和显著性图质量等因素对于人类感知显著性解释有重要影响。

近年来，已经有相当多的工作致力于解释预测、基于深度学习的模型，并进一步研究如何评估解释。