An Experimental Comparison Of Multi-view Self-supervised Methods For Music Tagging

自监督学习已成为在大量无标签数据上预训练通用机器学习模型的强有力方法。在音乐领域，这种方法尤其具有吸引力，因为获取标记数据耗时、容易出错且含糊不清。在自监督过程中，模型在预文本任务上进行训练，其主要目标是获取稳健且信息丰富的特征，以便后续进行特定的下游任务微调。预文本任务的选择至关重要，因为它引导模型以有意义的约束方式来塑造特征空间以进行信息编码。在音乐领域，大多数研究都依赖于对比学习或掩蔽技术。在本研究中，我们通过调查和比较新的自监督音乐标记方法的表现，扩展了应用于音乐的预文本任务范围。我们开源了一个简单的ResNet模型，该模型在数百万个曲目的多样化目录上进行了训练。我们的结果表明，尽管大多数这些预训练方法的下游结果相似，但对比学习始终比其他自监督预训练方法具有更好的下游性能。这在有限数据的下游环境中仍然成立。

论文旨在探讨音乐领域中自监督学习的预训练方法，以提高标记音乐数据的效率和准确性。

通过对比不同的自监督学习方法，论文发现对比学习方法在提取音乐特征方面表现更好，可以提高标记音乐数据的效率和准确性。

论文开源了一个使用ResNet模型在数百万曲目上进行自监督学习的简单实现，并进行了实验和结果分析。研究表明，对比学习方法在标记音乐数据的效率和准确性方面表现更好。

与该论文相关的研究包括使用自监督学习方法进行音乐标记的其他研究，如“Unsupervised Learning of Semantic Audio Representations”和“Learning Representations from Music Audio with the Help of ImageNet”。