生物学可信深度学习 (BPDL) 是神经科学与机器学习交叉领域中的一个活跃研究课题，主要研究如何利用在大脑中可实现的「学习规则」来训练深度神经网络。

去年 4 月，来自 DeepMind、牛津大学和谷歌大脑的 Timothy P. Lillicrap、Adam Santoro、Geoffrey Hinton 等人在 Nature 子刊《Nature Reviews Neuroscience》发表文章，认为反向连接可能会引发神经活动，而其中的差异可用于局部逼近误差信号，从而促进大脑深层网络中的有效学习。即尽管大脑可能未实现字面形式的反向传播，但是反向传播的部分特征与理解大脑中的学习具备很强的关联性。

最近，谷歌 Robotics 研究科学家 Eric Jang 发表博客，对 BPDL 中的反向传播观点提出质疑。 Eric Jang 的反对意见主要在于，设计反向传播的生物学可信替代方法压根就是一个错误的问题。BPDL 的重要前提中包含了一个错误的假设：层激活是神经元，权重是突触，因此借助反向传播的学习必须在生物学习中有对应的部分。 Eric Jang 认为机器学习领域的一个严重错误就是，对统计学工具和最优控制算法赋予了太多生物学意义。

Eric Jang 博文地址：https://blog.evjang.com/2021/02/backprop.html

内容中包含的图片若涉及版权问题，请及时与我们联系删除