A Survey on Few-Shot Class-Incremental Learning

解决问题：该论文旨在解决少样本类增量学习（Few-shot class-incremental learning，FSCIL）的问题，即如何在只有少量标记样本的情况下，让深度神经网络学习新任务而不会忘记之前学习的内容。这是一个新的问题，因为当前的深度学习模型在处理实时数据时表现出困难。

关键思路：该论文的关键思路是将少样本学习和增量学习结合起来，提出了五种不同的子类别来解决FSCIL问题，包括传统机器学习方法、元学习方法、特征和特征空间方法、重放方法和动态网络结构方法。相比当前领域的研究状况，该论文的思路在结合少样本学习和增量学习方面有新意。

其他亮点：该论文介绍了30多个理论研究和20多个应用研究，并评估了最近理论研究在FSCIL基准数据集上的表现。从应用角度来看，FSCIL已在计算机视觉的各个领域，如图像分类、目标检测和图像分割，以及自然语言处理和图形领域取得了令人瞩目的成就。该论文总结了这些重要应用，并指出了潜在的未来研究方向，包括应用、问题设置和理论发展。该论文还提供了开源代码和数据集。

关于作者：该论文的主要作者包括Tian Songsong、Li Lusi、Li Weijun、Ran Hang、Ning Xin和Tiwari Prayag。他们来自不同机构，包括中国科学技术大学、香港科技大学和印度尼西亚国家科学技术研究所。他们之前的代表作包括《Few-shot Learning with Global Class Representations》和《Few-shot Learning via Embedding Adaptation with Set-to-Set Functions》等。

相关研究：其他近期相关的研究包括《Few-Shot Learning with Localization in Realistic Settings》（作者：Nicolai Häni等，机构：苏黎世联邦理工学院）、《Incremental Few-Shot Learning with Attention Attractor Networks》（作者：Yunhao Ge等，机构：香港中文大学）和《Dynamic Few-Shot Visual Learning without Forgetting》（作者：Zhongqi Yue等，机构：西安交通大学）等。

论文摘要：本文对少样本分类增量学习（FSCIL）进行了全面的调查。大型深度学习模型令人印象深刻，但在实时数据不可用时，它们会遇到困难。FSCIL对于深度神经网络来说是一个重大挑战，因为它需要从仅有少量标记样本中学习新任务，而不会忘记先前学习的内容。这种设置很容易导致灾难性遗忘和过拟合问题，严重影响模型性能。研究FSCIL有助于克服深度学习模型在数据量和获取时间方面的局限性，同时提高机器学习模型的实用性和适应性。本文提供了对FSCIL的全面调查。与以往的调查不同，我们旨在综合少样本学习和增量学习，重点介绍了FSCIL的两个角度，并回顾了30多个理论研究和20多个应用研究。从理论角度来看，我们提供了一种新颖的分类方法，将该领域分为五个子类别，包括传统的机器学习方法、元学习方法、特征和特征空间方法、重放方法和动态网络结构方法。我们还评估了最近理论研究在FSCIL基准数据集上的性能。从应用角度来看，FSCIL在计算机视觉的各个领域，如图像分类、目标检测和图像分割，以及自然语言处理和图形领域取得了令人瞩目的成就。我们总结了重要的应用程序。最后，我们指出了潜在的未来研究方向，包括应用、问题设置和理论发展。总的来说，本文从方法论、性能和应用角度全面分析了FSCIL的最新进展。

内容中包含的图片若涉及版权问题，请及时与我们联系删除