Self-Supervised Learning for Time Series: Contrastive or Generative?

自监督学习（SSL）最近成为从大规模无标签数据中学习表示的强有力方法，在时间序列分析中显示出有希望的结果。自监督表示学习可分为两个主流：对比和生成。在本文中，我们将在时间序列中对比和生成方法进行全面的比较研究。我们首先分别介绍对比和生成SSL的基本框架，并讨论如何获得指导模型优化的监督信号。然后，我们为每种类型实现经典算法（SimCLR vs. MAE）并在公平的设置下进行比较分析。我们的结果提供了每种方法的优点和缺点的见解，并提供了选择适当的SSL方法的实用建议。我们还讨论了我们的发现对表示学习领域的更广泛影响，并提出了未来的研究方向。所有代码和数据都在\url{https://github.com/DL4mHealth/SSL_Comparison}上发布。

本论文旨在比较对比学习和生成式学习在时间序列分析中的效果和适用性，以及提供实用建议和未来研究方向。

论文介绍了对比学习和生成式学习的基本框架，讨论了如何获得指导模型优化的监督信号，并实现了每种类型的经典算法进行公平比较分析。

论文提供了各种方法的优缺点，并为选择适当的SSL方法提供了实用建议。作者还开源了代码和数据，并提出了未来研究方向。

最近的相关研究包括：Self-supervised Learning for Time Series: An Overview和A Comprehensive Survey on Self-Supervised Learning。