ICLR 23 Submission (6.33)｜反事实识别和估计的神经因果模型

简介：评估关于如果采取了不同的行动方案世界会如何的假设性陈述，可以说是现代人工智能系统所期望的一种关键能力。反事实推理是公平性讨论的基础，也是确定指责和责任、信用分配和后悔的基础。在本文中，我们研究了通过神经模型对反事实陈述的评估。具体来说，我们解决了进行这种评价所需的两个因果问题，即从观察和实验数据的任意组合中进行反事实识别和估计。首先，我们表明神经因果模型（NCMs）具有足够的表达能力，并编码了进行反事实推理所需的结构约束。其次，我们开发了一种同时识别和估计反事实分布的算法。我们表明，这种算法对于在一般情况下决定反事实的识别是合理和完整的。第三，考虑到这些结果的实际意义，我们引入了一种新的策略，使用生成式对抗网络对NCM进行建模。仿真结果证实了所提出的方法。