Visual Concept Connectome (VCC): Open World Concept Discovery and their Interlayer Connections in Deep Models

理解深度网络模型在其学习表示中捕获了什么是计算机视觉中的一个基本挑战。我们提出了一种新的方法，即视觉概念连通图（VCC），它以完全无监督的方式发现人类可解释的概念及其层间连接。我们的方法同时揭示了一个层中的细粒度概念、所有层之间的连接权重，并可适用于网络结构的全局分析（例如，分层概念组装的分支模式）。以前的工作可以从单个层中提取可解释的概念并检查它们对分类的影响，但无法在整个网络架构中进行多层概念分析。定量和定性的实证结果显示了VCC在图像分类领域的有效性。此外，我们利用VCC来应用于故障模式调试，以揭示深度网络中出现错误的位置。

论文试图通过Visual Concept Connectome (VCC)方法来理解深度神经网络中的可解释概念及其层间连接，以及将其应用于深度网络的故障模式调试。

该方法通过全面的无监督学习，同时揭示了各层的细粒度概念和它们之间的连接权重，并且可用于全局分析网络结构，是一种多层概念分析的方法。

论文在图像分类领域展示了VCC的有效性，并将其用于深度网络的故障模式调试。实验设计合理，使用了多个数据集，但未提供开源代码。该方法值得进一步研究。

相关研究包括单层可解释概念的提取以及其对分类的影响，但没有全局分析整个网络结构的方法。近期相关研究包括Visualizing and Understanding Convolutional Networks和DeepDream等。