简介：对于可靠的机器学习来说，分布转移下的泛化能力是必不可少的，而采用经验风险最小化优化的模型通常在非iid的测试数据下具有较差的泛化性能。近年来，针对分布外泛化的不变学习方法提出了在多环境下寻找因果不变关系的方法。然而，现代数据集往往是多源混杂的，且没有明确的源标签，这使得许多不变学习方法不适用。在本文中，我们提出Kernelized Heterogeneous Risk Minimization (KerHRM)算法，该算法既实现了核空间中的潜在异质性探索，又实现了核空间中的不变学习，然后通过指定不变梯度方向向原始神经网络反馈。我们从理论上解释了我们的算法，并通过大量的实验验证了我们的算法的有效性。

链接：https://arxiv.org/pdf/2110.12425.pdf

推荐理由：本方法将ICML2021中的Heterogeneous Risk MInimization方法推广到了核空间，使得可以处理更加复杂的数据与不变性关系。

内容中包含的图片若涉及版权问题，请及时与我们联系删除