Exploring Cross-Domain Few-Shot Classification via Frequency-Aware Prompting

2024年06月24日
  • 简介
    随着元学习的发展,跨领域少样本学习取得了重大进展。然而,大多数现有方法更注重通过特征级操作或任务多样性改进来学习领域适应的归纳偏差(元知识),而忽略了深度网络倾向于依赖高频线索来做出分类决策的现象。这样会降低学习的归纳偏差的鲁棒性,因为高频信息容易受到干扰。因此,在本文中,我们首次尝试提出一种基于频率感知提示和相互注意力的跨领域少样本分类方法,可以让网络在面对新的识别任务时模拟人类视觉感知选择不同的频率线索。具体而言,首先提出了一种频率感知提示机制,其中分解源图像的高频部分通过正态分布抽样或清零来获取频率感知增强样本。然后,设计了一个相互注意力模块,在CD-FSL设置下学习可推广的归纳偏差。更重要的是,所提出的方法是一个即插即用的模块,可以直接应用于大多数现成的CD-FSL方法。在CD-FSL基准测试上的实验结果证明了我们提出的方法的有效性,并显著提高了现有CD-FSL方法的性能。资源在https://github.com/tinkez/FAP_CDFSC。
  • 图表
  • 解决问题
    本论文旨在解决跨领域少样本学习中深度网络过度依赖高频信息导致学习到的归纳偏见不够鲁棒的问题。该问题是否新颖尚未确定。
  • 关键思路
    论文提出了一种基于频率感知的提示方法和相互注意机制,以帮助网络在面对新的识别任务时模拟人类视觉感知的选择不同频率线索的过程。该方法可以直接应用于大多数现有的跨领域少样本学习方法,并且可以提高它们的性能。
  • 其它亮点
    论文设计了一种频率感知提示机制和相互注意模块,可以在跨领域少样本学习的情况下学习泛化的归纳偏见。实验结果表明,该方法可以提高现有跨领域少样本学习方法的性能。研究使用了公开数据集,并提供了开源代码。
  • 相关研究
    最近的相关研究包括基于元学习的跨领域少样本学习方法和基于特征调整的方法。其中一些论文包括《Meta-Learning for Few-Shot Learning: A Survey》和《Feature Generating Networks for Zero-Shot Learning》。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论