CLIPScope: Enhancing Zero-Shot OOD Detection with Bayesian Scoring

检测超出分布（OOD）样本对于机器学习模型的安全实际部署至关重要。最近，视觉语言基础模型的进展使它们能够检测OOD样本，而无需需要分布（ID）图像。然而，这些零样本方法常常表现不佳，因为它们在检测置信度评分中没有充分考虑ID类别的可能性。因此，我们引入了CLIPScope，这是一种零样本OOD检测方法，它通过类别可能性来归一化样本的置信度得分，类似于贝叶斯后验更新。此外，CLIPScope还采用了一种新的策略，从大型词汇数据库中挖掘OOD类别。它选择离ID类别最远和最近的类别标签，以最大化OOD样本的覆盖范围。我们进行了广泛的消融研究和实证评估，展示了CLIPScope在各种OOD检测基准测试中的最新性能。

本篇论文旨在解决机器学习模型在实际应用中检测到非分布数据（OOD samples）的问题，提出了一种新的零样本（zero-shot）方法。

CLIPScope是一种零样本OOD检测方法，将样本的置信度得分通过类别概率进行归一化，类似于贝叶斯后验更新。同时，CLIPScope采用了一种新的策略从大型词汇数据库中挖掘OOD类别，选择与ID类别在CLIP嵌入距离上最远和最近的类别标签，以最大化覆盖OOD样本。

本文设计了大量实验来评估CLIPScope的性能，在各种OOD检测基准测试中均表现出最先进的性能。此外，论文还提供了开源代码和使用的数据集，值得进一步研究的是如何将CLIPScope应用于其他领域和任务中。

在这个领域中，最近的相关研究包括：《ODIN: Out-of-Distribution Detector for Neural Networks》、《Deep Mahalanobis Detector》、《Outlier Exposure with Confidence Control for Out-of-Distribution Detection》等。