最近关于半监督学习的研究在利用标记和未标记数据方面取得了显著进展,但大多数研究都假定模型的基本设置是随机初始化的。本文研究了更实用和更具竞争力的场景:在具备预训练模型的情况下进行半监督学习,让自适应一致性正则化技术来充分利用预训练模型和无标签样本的价值。通过对ImageNet的预先训练模型renet -50的fine-tuning,我们对现有流行的基准如CUB-200-2011、MIT-Indoor-67、MURA进行了广泛的验证对比。实验结果表明,我们提出的自适应一致性正则化优于最新的半监督学习技术(如Pseudo Label,、Mean Teacher和MixMatch)。相比现有的方法:我们的算法是有明显优势,并且能和MixMatch/FixMatch等最新方法叠加使用、将获得进一步提升。

论文链接:https://arxiv.org/abs/2103.02193

内容中包含的图片若涉及版权问题,请及时与我们联系删除