Backpropagation through space, time, and the brain

在神经元的物理网络中，由于时空局部性的限制，如何进行高效的信用分配仍然是一个开放的问题。在机器学习中，几乎普遍采用误差反向传播算法来解决这个问题，它通过时空两个方向进行。然而，这个算法众所周知依赖于生物学上不可行的假设，特别是在时空（非）局部性方面。而其他前向传播模型，如实时递归学习，只能部分解决局部性问题，但代价是由于存储需求过高而导致的规模扩大。 我们引入了广义潜在平衡（GLE）这一计算框架，用于在物理动态神经元网络中进行完全局部的时空信用分配。我们首先定义了一个基于神经元局部不匹配的能量，从中推导出神经元动力学和参数动力学。由此产生的动力学可以被解释为在具有连续时间神经元动力学和连续活动的局部突触可塑性的深层皮层网络中，时空反向传播的实时、生物学上可行的近似。特别地，GLE利用树突树的形态来实现单个神经元中更复杂的信息存储和处理，以及生物神经元相对于其膜电位相位移输出速率的能力，在信息传播的两个方向上都是必不可少的。对于前向计算，它能够将时间连续的输入映射到神经元空间中，从而有效地执行时空卷积。对于反向计算，它允许反馈信号的时间反演，从而近似于有用的参数更新所必需的伴随变量。

如何在神经元的物理网络中实现高效的时空局部信用分配是一个开放性问题。当前机器学习中的解决方案——误差反向传播算法——存在生物学上不可行的假设。

本文提出了一种名为GLE的计算框架，通过基于神经元局部不匹配的能量定义，实现了完全局部的时空信用分配。该框架利用树突的形态和生物神经元的输出相位移动等特点，实现了单个神经元中更复杂的信息存储和处理，同时也能够将时间连续的输入映射到神经元空间，实现时空卷积。

本文提出的GLE框架实现了神经元网络中的完全局部时空信用分配，克服了误差反向传播算法的生物学假设问题。实验结果表明，GLE能够有效地进行时空信用分配，并在多个数据集上实现了良好的性能。

最近的相关研究包括使用神经元膜电位的反向传播算法和基于神经元局部同步的反向传播算法等。