论文地址：https://arxiv.org/pdf/2106.15962

代码地址：https://github.com/changliu00/cygen

微软亚洲研究院的研究员们在 NeurIPS 2021 发表的论文“On the Generative Utility of Cyclic Conditionals”中，从最基本而通用的测度论角度分析了此问题，并且发现答案可以是肯定的，但需要一定条件。研究员提出了一个全新的生成式建模模式：只需建模两个条件分布，即似然模型（likelihood model，或称生成器 generator 或解码器 decoder）p(x│z)，和推断模型（inference model，或称编码器 encoder） q(z│x)，而不像已有模式还需指定或建模先验分布（prior distribution）p(z)。此新模式可以称之为“成环式生成式建模”，简记为 CyGen（Cyclic conditional Generative modeling），源自它仅需的模块——p(x│z)和q(z│x)——的方向（即从 z 采 x 和从 x 采 z）形成了闭环。CyGen 避免了各已有生成模型因需要先验而带来的流形错配（manifold mismatch）和后验坍缩（posterior collapse）问题，从而能以更高精度拟合并生成数据，且能抽取到更有用的数据表示。

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除