简介:领域泛化的目标是使用来自有限的数据来保证在不可见的测试环境中的模型泛化性能。尽管针对此任务的算法越来越多,但从理论上和实践上评估它们的实际泛化性能仍然非常具有挑战性。此外, 最近的方法例如不变风险最小化(IRM)需要大量的训练环境——环境数目关于虚假相关特征的维度(d_s)是线性的——即使在Rosenfeld等人提出的简单数据模型上也是如此。在Rosenfeld等人提出模型的变体下,我们证明了ERM和IRM都不能在O(d_s)环境下推广。然后,我们提出了一种基于执行迭代特征匹配的新算法,该算法保证了在只看到O(log d_s)环境下模型的泛化能力。
论文链接:https://arxiv.org/abs/2106.09913
推荐理由:在之前Rosenfeld等人工作的基础上,提出了将IRM的环境复杂度从线性降至对数级别的算法,十分具有借鉴意义。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢