Inhibitory normalization of error signals improves learning in neural circuits

标准化是神经环路中一项关键的运算机制。在大脑中，已有证据表明，标准化通过抑制性中间神经元实现，从而使神经元群体能够适应其输入分布的变化。在人工神经网络（ANNs）中，标准化被用于提升涉及复杂输入分布任务的学习效果。然而，目前尚不清楚生物神经环路中由抑制性机制介导的标准化是否同样有助于学习。本文利用一类具有独立兴奋性与抑制性神经元群体的人工神经网络，在亮度可变的图像识别任务上开展研究，以探究这一可能性。我们发现：若仅在推理阶段（即前向传播过程）施加抑制性介导的标准化，则其并不能提升学习效果；然而，当该标准化机制进一步扩展至反向传播的误差信号时，模型性能则显著提高。这些结果提示：倘若大脑中由抑制性机制介导的标准化确能促进学习，那么它还必须同时对学习信号（即误差信号）实施标准化。

验证生物神经回路中由抑制性中间神经元介导的归一化（inhibition-mediated normalization）是否能真正提升学习能力，而不仅限于推理阶段的表征稳定性；该问题此前缺乏直接计算建模证据，属于连接神经科学机制与深度学习优化原理的交叉新问题。

提出‘误差归一化’（normalization of back-propagated errors）这一新机制：不仅在前向传播中用抑制性单元对兴奋性活动进行归一化，更在反向传播中对梯度信号实施同等归一化；这是首篇将归一化操作显式扩展至学习信号（而非仅激活）并证明其必要性的ANN-神经科学交叉工作。

实验采用双群体ANN（分离的兴奋/抑制神经元），在亮度可变的图像识别任务（如CIFAR-10加动态gamma校正）上验证；关键对照实验显示：仅前向归一化无增益，而前向+反向联合归一化显著提升泛化与亮度鲁棒性；未提及其开源代码；值得深入的方向包括：误差归一化在脉冲神经网络中的实现、其与大脑皮层反馈连接（如层间抑制性投射）的对应关系、以及在少样本或持续学习场景下的作用。

1. Carandini & Heeger (2012) - Normalization as a canonical neural computation; 2. Ba et al. (2016) - Layer Normalization; 3. Ulyanov et al. (2016) - Instance Normalization; 4. Song et al. (2021) - Inhibitory Gating Improves Robustness in Spiking Networks; 5. Kell et al. (2023) - Gradient-based learning in biologically plausible microcircuits