Bucketed Ranking-based Losses for Efficient Training of Object Detectors

2024年07月19日
  • 简介
    排名损失函数,例如平均精度损失和排名与排序损失,在目标检测中优于广泛使用的基于分数的损失。这些损失函数更好地符合评估标准,具有较少的超参数,并且对正负类别之间的不平衡提供了鲁棒性。然而,它们需要对$P$个正预测和$N$个负预测进行成对比较,引入了$\mathcal{O}(PN)$的时间复杂度,由于$N$通常很大(例如,在ATSS中为$10^8$),这是不可行的。尽管具有这些优点,但排名损失的广泛采用受到了时间和空间复杂度的限制。本文旨在提高排名损失函数的效率。为此,我们提出了桶排名损失函数,它将负预测分组成$B$个桶($B\ll N$),以减少成对比较的数量,从而降低时间复杂度。我们的方法提高了时间复杂度,将其降低到$\mathcal{O}(\max (N \log(N), P^2))$。为了验证我们的方法并展示其普适性,我们在2个不同的任务,3个不同的数据集和7个不同的检测器上进行了实验。我们表明,桶排名损失(BR Loss)提供了与未分组版本相同的准确性,并且平均提供了2倍的更快训练速度。我们还首次使用排名损失训练了基于transformer的目标检测器,这要归功于我们BR的效率。当我们使用我们的BR Loss训练CoDETR(一种最先进的基于transformer的目标检测器)时,我们在多个不同的骨干网上一致优于其原始结果。代码可在https://github.com/blisgard/BucketedRankingBasedLosses获得。
  • 图表
  • 解决问题
    本文试图提高排名损失函数的效率,以更好地适应目标检测中的评估标准和处理正负样本不平衡的问题。由于排名损失函数需要进行大量的成对比较,因此时间复杂度很高,这限制了它们的广泛应用。
  • 关键思路
    本文提出了一种称为Bucketed Ranking-based Losses的方法,将负样本分组,以减少成对比较的数量,从而降低时间复杂度。这种方法提高了时间复杂度,将其降低到O(max(N log(N), P^2))。
  • 其它亮点
    本文的方法在两个不同的任务、三个不同的数据集和七个不同的检测器上进行了实验验证,并表明Bucketed Ranking-based Losses与未分组版本具有相同的准确性,但平均训练速度提高了2倍。此外,本文还首次使用排名损失训练基于transformer的目标检测器,实现了比原始结果更好的性能。
  • 相关研究
    在目标检测领域中,有许多相关的研究工作,如ATSS和CoDETR等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论