近年来，深度监督学习取得了巨大的成功。然而，它依赖于手工标签，并且易受攻击的弱点促使学者们探索更好的解决方案。近年来，自监督学习作为一种新的学习方法，在表征学习方面取得了骄人的成绩并吸引了越来越多的注意。自监督表示学习利用输入数据本身作为监督信号，几乎有利于所有不同类型的下游任务。这篇文章里，我们将解读智源学者、清华大学唐杰老师组发表的Self-supervised Learning: Generative or Contrastive 一探自监督学习最新研究进展。

本文主要介绍自监督学习在计算机视觉，自然语言处理，和图学习领域的方法，并对现有的方法进行了全面的回顾，根据不同方法的目标归纳为生成式（generative）、对比式（contrastive）和对比-生成式 / 对抗式（adversarial）三大类。最后，简要讨论了自监督学习的开放问题和未来的发展方向。

这篇综述论文，推荐想全面了解自监督方向的小伙伴们阅读，感兴趣的戳原文或论文链接~

内容中包含的图片若涉及版权问题，请及时与我们联系删除