Generative Flow Networks: Theory and Applications to Structure Learning

在不对数据生成做任何假设的情况下，多个因果模型可能同样好地解释我们的观察结果。为了避免选择一个可能导致不安全决策的单一任意模型（如果该模型不符合现实），因此必须保持对我们可能候选模型的认识不确定性。本论文从贝叶斯视角研究结构学习问题，基于数据，近似估计因果模型结构（表示为有向无环图，即DAG）的后验分布。论文引入了生成流网络（Generative Flow Networks，GFlowNets），这是一种新型的概率模型，专为建模离散和组合对象（如图）的分布而设计。它们将生成视为一个顺序决策问题，逐步构建目标分布的样本，这些样本定义到归一化常数为止。在论文的第一部分，我们介绍了GFlowNets的数学基础，以及它们与变分推理、强化学习等现有机器学习和统计领域的联系，并展示了其在离散问题之外的扩展。在论文的第二部分，我们展示了如何使用GFlowNets近似估计因果贝叶斯网络中DAG结构的后验分布，以及其因果机制的参数，基于观察和实验数据。

该论文试图解决在没有关于数据生成的任何假设下，多个因果模型可能同样好地解释观察结果的问题。为了避免选择单一任意模型可能导致的不安全决策，论文强调保持对可能候选模型的不确定性的认识的重要性，并从贝叶斯视角研究结构学习问题，旨在近似给定数据后因果模型结构（以有向无环图表示）的后验分布。

论文的关键思路是引入了一种新的概率模型——生成流网络（GFlowNets），用于建模离散和组合对象（如图）上的分布。GFlowNets将生成视为一个顺序决策问题，逐步构建目标分布的样本。这一方法不仅新颖地结合了变分推理和强化学习的元素，还扩展了其应用范围至非离散问题，从而提供了一种创新的方式来逼近因果贝叶斯网络中DAG结构及其因果机制参数的后验分布。

论文展示了GFlowNets如何有效地逼近因果贝叶斯网络的后验分布，并处理观测和实验数据。此外，它深入探讨了GFlowNets的数学基础及其与现有机器学习和统计领域的关系。值得注意的是，论文提出了GFlowNets在连续空间中的扩展，这为未来的研究提供了新的方向。尽管摘要中未提及具体实验设计、使用数据集或开源代码，但其理论贡献和对未来工作的指导意义显著。

最近，在因果推理和贝叶斯网络结构学习方面有许多相关研究。例如，《Causal Discovery with Continuous Additive Noise Models》探讨了利用连续加性噪声模型进行因果发现的方法；《Learning Sparse Causal Models is not NP-hard》讨论了学习稀疏因果模型的复杂性；还有《Bayesian Structure Learning for Stationary Time Series》专注于时间序列的贝叶斯结构学习。这些研究共同构成了理解因果关系和结构学习的重要背景。