Fast Decision Boundary based Out-of-Distribution Detector

2023年12月15日
  • 简介
    高效和有效的离群检测对于在延迟关键应用中安全部署人工智能至关重要。最近的研究表明,基于特征空间信息检测离群值可以非常有效。然而,现有的特征空间离群检测方法可能会产生相当大的计算开销,因为它们依赖于从训练特征构建的辅助模型。本文旨在消除辅助模型,以优化计算效率,同时利用嵌入特征空间的丰富信息。我们从决策边界的新颖角度进行了研究,并提出使用特征距离决策边界来检测离群值。为了最小化测量距离的成本,我们引入了一种高效的封闭形式估计方法,经过分析证明可以紧密地下限距离。我们观察到,ID特征往往比OOD特征更远离决策边界。这符合模型在ID样本上更具决定性的直觉,因为距离决策边界量化了模型的不确定性。基于我们的理解,我们提出了一个无超参数、无辅助模型的OOD检测器。我们的OOD检测器在广泛的实验中与最先进的方法相匹配或超越了其有效性。同时,我们的OOD检测器在推理延迟方面几乎没有实际开销。总的来说,我们显著增强了OOD检测中的效率-有效性权衡。
  • 作者讲解
  • 图表
  • 解决问题
    优化Out-of-Distribution (OOD)检测的计算效率,同时利用特征空间中的丰富信息。
  • 关键思路
    通过决策边界距离来检测OOD,避免了依赖于训练特征的辅助模型,提高了计算效率。
  • 其它亮点
    论文提出了一个无需超参数和辅助模型的OOD检测器,通过实验验证了其优越性能。
  • 相关研究
    近期的相关研究包括:Deep Mahalanobis Detector、ODIN、Outlier Exposure等。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问