Divide-and-Conquer Predictive Coding: a structured Bayesian inference algorithm

意外的刺激会在大脑中引发“错误”或“惊奇”信号。预测编码理论承诺通过建议皮层在概率图模型中实现变分推断来解释这些观察结果。然而，当应用于机器学习任务时，这类算法在高维、结构化推断问题上的表现仍不如其他变分方法。为了解决这个问题，我们引入了一种新颖的面向结构化生成模型的预测编码算法，称为分治预测编码（DCPC）。DCPC与其他预测编码公式不同，因为它尊重生成模型的相关结构，并且可以在不牺牲生物合理性的情况下证明执行模型参数的最大似然更新。在实证方面，DCPC比竞争算法表现更好，并在以前没有使用预测编码解决的问题中提供准确的推断。我们在Github上提供了DCPC在Pyro中的开放实现。

论文旨在解决预测编码算法在高维结构化推理问题上的性能问题，提出了一种新的预测编码算法。

论文提出的新算法是分而治之的预测编码算法（DCPC），它尊重生成模型的相关性结构，可以进行最大似然参数更新，同时不损失生物可信度。

DCPC算法在实验中表现出比竞争算法更好的数字性能，并在以前未解决的一些问题中提供了准确的推理。作者在Github上提供了DCPC的开放实现。

最近的相关研究包括基于变分推断的其他算法，如VAE和GAN。