【论文标题】SHAPLEY EXPLANATION NETWORKS 【作者团队】Rui Wang Xiaoqian Wang David I. Inouye 【发表时间】ICLR 2021 【论文链接】https://openreview.net/forum?id=vsU0efpivw 【公开代码】https://www.github.com/RuiWang1998/ShapleyExplanationNetworks 【推荐理由】本文通过将Shapley值作为潜在特征引入神经网络中来提出一种自解释的神经网络，实现有更好可解释性的网络模型并在数据集上得以验证。 Shapley值已成为最流行的特征属性解释方法之一。然而，大多数先前的工作都集中在事后Shapley解释上，由于指数时间复杂度的原因，这种解释的计算要求很高，并且排除了训练过程中基于Shapley解释的模型正则化。因此，作者建议将Shapley值本身作为深层模型中的潜在表征，从而使Shapley解释成为模型范式中的一等公民。这种内在的解释方法可以实现分层解释，在训练过程中解释模型的正则化，以及在测试时快速的解释计算。作者定义了Shapley变换，它将输入转换为给定特定函数的Shapley表示。作者将Shapley变换作为一个神经网络模块来操作，并通过组合Shapley模块来构造浅层和深层网络，称为shaplenet。作者证明了我们的浅形网计算精确的Shapley值，而文中的深形网保持了Shapley值的丢失性和精确性。作者在合成数据集和真实数据集上证明，文中的Shapley网络能够实现分层Shapley解释、训练期间新颖的Shapley正则化以及快速计算，同时保持合理的性能。

内容中包含的图片若涉及版权问题，请及时与我们联系删除