Robust agents learn causal world models

长期以来，人们一直假设因果推理在强大和普适智能中起着基础性作用。然而，目前尚不清楚代理必须学习因果模型才能推广到新领域，还是其他归纳偏差就足够了。我们回答了这个问题，表明任何能够在大量分布转移下满足遗憾界限的代理必须已经学习了数据生成过程的近似因果模型，这个模型对于最优代理来说趋近于真实因果模型。我们讨论了这一结果对于多个研究领域，包括迁移学习和因果推断的影响。

论文试图探讨是否需要学习因果模型才能在新领域中进行泛化，并回答了这个问题。

任何能够在大量分布偏移下满足遗憾界限的代理必须学习数据生成过程的近似因果模型，对于最优代理，它收敛于真实因果模型。

论文的实验结果表明，学习因果模型是在新领域中进行泛化所必需的，这对于传输学习和因果推断等领域具有重要意义。论文提供了一种新的方法来研究学习算法的泛化能力，并对因果学习提供了新的见解。

最近在这个领域中，还有一些相关的研究，如《Causal Reasoning from Meta-reinforcement Learning》和《Causal Discovery with Reinforcement Learning》等。