Taxes Are All You Need: Integration of Taxonomical Hierarchy Relationships into the Contrastive Loss

本文提出了一种新颖的有监督对比损失，使得在表示学习过程中可以集成分类层次结构信息。有监督对比损失的作用是强制要求具有相同类别标签（正样本）的图像在投影时彼此更接近，而具有不同类别标签（负样本）的图像则更远离。这种方法的优点在于，它直接惩罚表示空间的结构本身，从而可以更灵活地编码语义概念。然而，标准的有监督对比损失仅基于下游任务（即类别标签）强制实施语义结构。实际上，类别标签只是称为分类法的不同语义关系层次结构中的一个级别。例如，类别标签通常是动物的物种，但在不同类别之间存在更高阶的关系，例如所有有翅膀的动物都是“鸟类”。我们展示了通过在对比损失中明确考虑这些关系的加权惩罚来优化性能。此外，我们还证明了分类法的适应性，将我们的损失集成到医学和噪声基础设置中，性能提高了高达7%。

本文提出了一种新的有监督对比损失函数，旨在在表示学习过程中集成分类层次信息。

该损失函数通过强制相同类别标签（正样本）的图像投影更接近彼此，以比不同类别标签（负样本）的图像更接近来操作。通过在对比损失中显式考虑这些关系，可以优于标准的有监督对比损失。

实验表明，该方法可以在医疗和噪声环境中提高性能，提高达7%。

与本文相关的研究包括：《Supervised Contrastive Learning》、《Contrastive Multiview Coding》等。