不变因果预测(Invariant Causal Prediction)是一种分布外泛化算法，它假设数据分布的某些方面在训练集中有所不同，但潜在的因果机制保持不变。最近，Arjovsky等人提出了不变风险最小化算法(IRM)，该算法的目标是学习潜在的不变特征;之后基于这个方法也提出了许多替代方案。然而，所有这些方法都严重缺乏理论上的保证。在本文中，我们对于IRM算法的目标给出了第一个对于分类问题的分析。在线性情况下，我们给出了最优解成功的简单条件，或是更常见的情况，无法得到最优不变预测器。我们进一步给出了非线性条件下的首个结果:我们证明了IRM可能会灾难性地失效，除非测试数据与训练分布足够相似——而这又正是IRM想要解决的问题。因此，在这种情况下，我们发现IRM和它的替代方案根本没有改善传统的经验风险最小化算法。

 

文章链接：https://arxiv.org/abs/2010.05761

接收会议：ICLR 2021

内容中包含的图片若涉及版权问题，请及时与我们联系删除