尽管很多研究者已经将类选择性当做 DNN 可解释性的一个工具进行了广泛的研究，但令人意外的是，很少有人去研究易于解释的神经元对于 DNN 发挥最佳作用是否必要。最近，部分研究者已经开始了这一问题的探索，但不同的研究给出了不同的结论。

在此背景下，Facebook AI 的研究者通过一种新的类选择性操纵方法来探索上述问题。在训练一个图像分类网络时，他们不仅指导网络提高其分类图像的能力，还添加了一个降低（或提高）神经元中类选择性程度的激励。

《SELECTIVITY CONSIDERED HARMFUL: EVALUATING THE CAUSAL IMPACT OF CLASS SELECTIVITY IN DNNS》 链接：https://arxiv.org/pdf/2003.01262.pdf?fbclid=IwAR3PlRzcoiGXyfjqfySM5ZEQxeQsYkIknQI5PQfKhPe2XdxDtFUp2ohgAO8

《On the relationship between class selectivity, dimensionality, and robustness》 链接：https://arxiv.org/pdf/2007.04440.pdf?fbclid=IwAR0yRDRql1uii1O_kqqa7EP2gFhKKFHkbq1OE0C9YAf8e6kcge6lu7Q9C1s

《Towards falsifiable interpretability research 》 链接：https://arxiv.org/pdf/2010.12016.pdf?fbclid=IwAR0lN7qgvPbV3ZUF5WzHs14g5xSrQVKP9GuG6tkIhY611jWb79oFG9sBY

内容中包含的图片若涉及版权问题，请及时与我们联系删除