作者:Yun Yue , Fangzhou Lin , Kazunori D Yamada , 等

推荐理由:据作者所知、本文是首次尝试在双曲空间中构建对比模型、并探索该空间中的自我监督对抗鲁棒性的工作。

简介:学习对下游任务有益的良好图像表示,是计算机视觉中的一项具有挑战性的任务。因此,已经提出了各种各样的自我监督学习方法。其中,对比学习在多个基准数据集上显示出有竞争力的表现。对比学习的嵌入被安排在一个超球体上,导致使用内(点)积作为欧几里德空间中的距离测量。然而,社交网络、脑成像和计算机图形数据等许多科学领域的底层结构都表现出高度非欧几里得的潜在几何结构。作者提出了一种新颖的对比学习框架来学习双曲空间中的语义关系。双曲空间是树的连续版本,天然具有对层次结构建模的能力,因此有利于高效的对比表示学习。作者还将所提出的双曲线对比学习 (HCL) 扩展到监督域,并研究了 HCL 的对抗鲁棒性。综合实验表明:与基线方法相比,作者提出的方法在自监督预训练、监督分类和更高的稳健精度方面取得了更好的结果。

论文下载:https://arxiv.org/pdf/2302.01409.pdf

内容中包含的图片若涉及版权问题,请及时与我们联系删除