LW-DETR: A Transformer Replacement to YOLO for Real-Time Detection

本文介绍了一种轻量级的检测变换器LW-DETR，其在实时物体检测方面的表现优于YOLO。该架构是一个简单的堆叠，包括ViT编码器、投影器和浅层DETR解码器。我们的方法利用了最近的先进技术，例如训练有效技术，如改进的损失和预训练，以及交错窗口和全局关注机制来降低ViT编码器的复杂性。我们通过聚合多级特征图和ViT编码器中的中间和最终特征图来改进ViT编码器，形成更丰富的特征图，并引入窗口为主的特征图组织来提高交错注意力计算的效率。实验结果表明，所提出的方法在COCO和其他基准数据集上优于现有的实时检测器，如YOLO及其变体。代码和模型可在（https://github.com/Atten4Vis/LW-DETR）上获得。

本论文旨在提出一种轻量级的检测变压器LW-DETR，以实现实时物体检测。该论文试图解决实时物体检测的精度和速度之间的平衡问题。

论文的关键思路是将ViT编码器、投影器和浅层DETR解码器简单堆叠，利用多级特征图聚合和窗口主要特征图组织等技术来降低ViT编码器的复杂性，从而提高检测精度和速度。

论文的亮点包括：1. 提出了一种轻量级的检测变压器LW-DETR，实现了实时物体检测；2. 利用多级特征图聚合和窗口主要特征图组织等技术来优化ViT编码器，提高检测精度和速度；3. 实验结果表明，LW-DETR在COCO和其他基准数据集上优于现有的实时检测器，如YOLO等；4. 代码和模型已在GitHub上开源。

近期在该领域的相关研究包括：YOLOv4、EfficientDet、Sparse R-CNN等。