Deep Metric Learning-Based Out-of-Distribution Detection with Synthetic Outlier Exposure

本文提出了一种新颖的方法，将深度度量学习和扩增数据生成结合使用扩散模型进行未知分布（OOD）检测。一种流行的OOD检测方法是异常暴露，其中模型使用混合的内部分布（ID）样本和“已知”OOD样本进行训练。对于OOD样本，模型被训练以最小化输出概率和均匀分布之间的KL散度，同时正确分类ID数据。在本文中，我们提出了一种标签混合方法，使用去噪扩散概率模型（DDPM）生成合成OOD数据。此外，我们探索了最近在度量学习方面的进展来训练我们的模型。在实验中，我们发现基于度量学习的损失函数比softmax表现更好。此外，当使用生成的OOD数据进行训练时，基线模型（包括softmax和度量学习）显示出显着的改进。我们的方法在传统的OOD检测指标中优于强基线模型。

本论文旨在通过结合深度度量学习和使用扩散模型生成的合成数据来解决离群检测问题（OOD）。该方法的目标是提高模型对于未知数据的鲁棒性。

论文提出了一种使用标签混合方法来生成合成OOD数据的方法，并探索了度量学习的最新进展来训练模型。实验结果表明，度量学习的损失函数比softmax表现更好，并且使用生成的OOD数据能够显著提高模型的表现。

值得关注的亮点包括使用DDPM生成合成OOD数据，实验结果表明使用合成数据能够提高模型的表现，度量学习的损失函数比softmax表现更好。论文的实验使用了多个数据集，并提供了开源代码。

最近的相关研究包括使用GAN生成OOD数据的方法，以及使用深度度量学习进行离群检测的方法。相关论文包括“Generating Out-of-Distribution Data with GANs”和“Deep Anomaly Detection with Outlier Exposure and Importance Reweighting”。