A Systematic Review on Long-Tailed Learning

长尾数据是一种特殊的多类不平衡数据，其中少数/尾部类别数量非常大，具有非常显著的联合影响。长尾学习旨在在长尾分布的数据集上构建高性能模型，可以高精度地识别所有类别，特别是少数/尾部类别。这是一个前沿的研究方向，在过去几年中吸引了大量研究力量。在本文中，我们提出了一个关于长尾视觉学习最新进展的综合调查。我们首先提出了一个新的长尾学习分类法，包括数据平衡、神经架构、特征增强、logits调整、损失函数、花哨的东西、网络优化和事后处理技术等八个不同维度。基于我们提出的分类法，我们对长尾学习方法进行了系统的回顾，讨论了它们的共性和可调整的差异。我们还分析了不平衡学习和长尾学习方法之间的差异。最后，我们讨论了这个领域的前景和未来方向。

本论文旨在解决长尾分布数据的视觉学习问题，即如何在具有极大数量的少数/尾部类别的数据集上构建高性能模型，特别是能够高准确度地识别少数/尾部类别。

论文提出了一个新的长尾学习分类法，包括数据平衡、神经架构、特征增强、对数调整、损失函数、网络优化和后处理技术等八个不同的维度，系统地回顾了长尾学习方法，并讨论了它们的共同点和可对齐的差异。

论文分析了不平衡学习和长尾学习方法之间的差异，提出了未来的研究方向。实验使用了多个数据集，包括ImageNet、CIFAR-10、CIFAR-100等，并开源了代码。

相关研究包括《Learning Imbalanced Datasets with Label-Distribution-Aware Margin Loss》、《Revisiting Few-sample NAS: A Simple Baseline for Few-shot Image Classification》等。