Backpropagation through space, time, and the brain

在神经网络中实现有效的学习需要根据各自对解决任务的贡献来调整单个突触。然而，无论是生物还是人工的物理神经系统都受到时空局限的限制。这样的网络如何执行有效的学分分配，仍然是一个很大程度上的开放问题。在机器学习中，错误反向传播算法通过空间（BP）和时间（BPTT）来解决这个问题。然而，BP（TT）众所周知依赖于生物学上不可行的假设，特别是与时空（非）局部性有关，而正向传播模型，如实时递归学习（RTRL），则受到记忆限制的限制。我们引入了广义潜在平衡（GLE），这是一个计算框架，用于在神经元的物理动态网络中进行完全本地的时空学分配。我们首先定义了一个基于神经元局部不匹配的能量，从中我们通过平稳性推导出神经元动力学以及通过梯度下降推导出参数动力学。所得到的动力学可以解释为在具有连续时间神经元动力学和持续活跃的本地突触可塑性的深层皮质网络中，BPTT的实时生物学合理的近似。特别地，GLE利用生物神经元相对于其膜电位相移其输出速率的能力，这在信息传播的两个方向上都是必要的。对于正向计算，它使得时间连续输入映射到神经元空间，执行有效的时空卷积。对于反向计算，它允许反馈信号的时间反演，从而近似于有用的参数更新所必需的伴随状态。

论文旨在解决物理神经网络中的局部时空学习问题，提出一种全局局部学习的计算框架。

提出了广义潜在平衡（GLE）框架，利用能量函数和梯度下降法实现神经元动力学和参数动力学的计算，从而实现了全局局部学习。

论文利用生物神经元的相位移位特性，实现了前向计算和反向传播的时空局部卷积和反转，从而实现了全局局部学习。实验结果表明，GLE框架能够在物理神经网络中实现高效的学习和分类任务。

近期的相关研究包括基于反向传播算法的学习方法，以及基于前向传播的实时递归学习方法，如BP(TT)和RTRL等。