今年智源大会的“认知神经基础论坛”上，将邀请伦敦大学学院教授Karl Friston（卡尔·弗里斯顿）做主题演讲。弗里斯顿教授的一项重要成果，便是提出了认知科学中的自由能原理。今天我们来了解下这个概念。

知识点

1.自由能原理是指，一个系统会努力最小化其自由能函数，使其不断根据外界环境输入的新信息，不断调整内部对外部环境的信念的过程。

2.自由能原理在认知神经科学、人工智能等领域具有应用潜力，包括优化控制、优化决策理论等。

定义

自由能原理是一个尝试解释生物和非生物系统（如单个细胞、大脑等）通过将其限制在有限数量个状态，从而保持非均衡稳定状态的理论。[1]

自由能原理指出，一个系统会努力最小化其自由能函数（并不是热力学意义上的自由能），使其不断根据外界环境输入的新信息，不断调整内部对外部环境的信念（即推理）。最小化自由能的过程可以使用变分贝叶斯方法进行计算。卡尔·弗里斯顿提出的这种理论，可以被用来解释神经科学中的具身知觉（Embodied Perception），也被称为主动推理（Active Inference）。

想象一下，我们的大脑时刻产生对外界环境的先验信念（Prior Beliefs）。同时，我们通过各种感觉器官，时刻获得着感觉和知觉的信号，并根据这些输入，最小化我们对世界的建模和实际情况之间的差异（降低环境给我们带来的意外——即Surprise）。这有点类似于贝叶斯中求得后验。同时，弗里斯顿认为，行动（改造世界）也是我们试图最小化意外的一种方式，可以通过改变世界的状态，满足最小化差异的方法。

自由能原理的数学定义

1.符号

定义以下元组：

其中：

（1）Ω是样本空间。从样本空间中提取出波动 $\omega \in \Omega$ 。

（2）隐藏或外部状态 $\Psi:\Psi\times A \times \Omega \to \mathbb{R}$ ，能够引起感知状态的变化，这依赖于行动的变化。

（3）感知状态 $S:\Psi \times A \times \Omega \to \mathbb{R}$ ，这是一个自行动和隐藏状态映射的概率。

（4）行动 $A:S\times R \to \mathbb{R}$ ，依赖于感知和内部状态的变化。

（5）内部状态 $R:R\times S \to \mathbb{R}$

$p(s,\psi \mid m)$

$q(\psi \mid \mu )$

$p(s\mid m)$

$2.自由能函数$

$要了解这个自由能公式是怎样推导的，需要理解变分贝叶斯，具体可参考知乎回答。[2]$

图注：系统降低自由能的整体流程 [1]

自由能原理与人工智能的联系

在人工智能领域，自由能原理又被称为主动推理。在以下人工智能领域具有应用意义：

1.优化控制

主动推理可以替代优化控制中的价值或“cost-to-go”函数，代之以状态转移或流的先验信念[3]，这可以将贝叶斯和贝尔曼方程联系起来。

2.优化决策（博弈）理论

优化决策问题可以由主动推理解决，将效用函数融合到先验信念中。在这个过程中，具有更高效用的状态（低成本）是智能体希望拥有的。因此，通过给生成模型设置隐藏状态，智能体通过采用最小化变分自由能的策略，最终达到高效用状态。

3.认知神经科学

主动推理已经被用来解决认知神经科学中的一系列问题，如行为观察、眼球运动、幻觉、注意力、意识等。有观点认为，大脑“顽固”地秉持这错误先验信念，导致其无法根据外界信号输入进行调整，导致精神分类等问题。[4]

自由能原理的缺陷

有评论认为，自由能原理非常难以理解，甚至对专家都是如此。[5] 同时，这一理论在数学上的稳定性也被近来的一些研究所质疑。

此外，自由能原理更多采用了形而上学中的假设，与可检验的数学预测具有一定的距离。使得这个理论难以被证伪。[6] 在2018年的采访中，弗里斯顿也承认自由能原理不能被很好的证伪。[1]

*本文部分术语翻译参考集智百科词条，在此表示感谢。

参考链接

[1] Free Energy Principle: https://en.wikipedia.org/wiki/Free_energy_principle

[2] 如何评价神经科学家Karl Friston的自由能原理和主动推断的时代意义?https://www.zhihu.com/question/395687242/answer/1339529890

[3] Friston, K., (2011). What is optimal about motor control?. Neuron, 72(3), 488–98.

[4] Yon, Daniel; Lange, Floris P. de; Press, Clare (2019-01-01). "The Predictive Brain as a Stubborn Scientist". Trends in Cognitive Sciences (in English). 23 (1): 6–8. doi:10.1016/j.tics.2018.10.003

[5] Freed, Peter (2010). "Research Digest". Neuropsychoanalysis. Informa UK Limited. 12 (1): 103–106. doi:10.1080/15294145.2010.10773634

[6] Colombo, Matteo; Wright, Cory (2018-09-10). "First principles in the life sciences: the free-energy principle, organicism, and mechanism". Synthese. Springer Science and Business Media LLC. 198: 3463–3488. doi:10.1007/s11229-018-01932-w

内容中包含的图片若涉及版权问题，请及时与我们联系删除

每日AI前沿术语：自由能原理（Free Energy Principle）

知识点

定义