Incremental Residual Concept Bottleneck Models

概念瓶颈模型（Concept Bottleneck Models，CBMs）将深度神经网络提取的黑盒视觉表示映射到一组可解释的概念上，并使用这些概念进行预测，增强决策过程的透明度。多模态预训练模型可以将视觉表示与文本概念嵌入相匹配，从而获得可解释的概念瓶颈，无需专业的概念注释。最近的研究集中在概念库的建立和高质量概念的选择上。然而，通过人工或大型语言模型构建全面的概念库是具有挑战性的，这严重限制了CBMs的性能。在本文中，我们提出了增量残差概念瓶颈模型（Res-CBM）来解决概念完整性的挑战。具体而言，残差概念瓶颈模型采用一组可优化向量来完成缺失的概念，然后增量概念发现模块将具有不明确含义的补充向量转换为候选概念库中的潜在概念。我们的方法可以应用于任何用户定义的概念库，作为后处理方法来增强任何CBMs的性能。此外，为了衡量CBMs的描述效率，提出了概念利用效率（Concept Utilization Efficiency，CUE）指标。实验表明，Res-CBM在准确性和效率方面优于当前最先进的方法，并在多个数据集上实现了与黑盒模型相当的性能。

本文旨在解决概念完备性问题，提出了一种增量残差概念瓶颈模型（Res-CBM）来增强概念的完整性，从而提高概念瓶颈模型的性能。

Res-CBM利用可优化的向量来补全缺失的概念，并将不清楚含义的补充向量转化为候选概念库中的潜在概念，从而提高概念瓶颈模型的性能。

本文提出了Concept Utilization Efficiency（CUE）指标来衡量CBMs的描述效率，实验结果表明，Res-CBM在多个数据集上的表现优于当前的最新技术，并且与黑盒模型的性能相当。

与本文相关的研究包括Concept Bottleneck Models（CBMs）和Multimodal pre-trained models。