Correcting Biased Centered Kernel Alignment Measures in Biological and Artificial Neural Networks

最近，中心核对齐（CKA）已成为一种流行的度量标准，用于比较生物和人工神经网络（ANN）的激活，以量化从刺激集合（例如图像、文本、视频）中派生的内部表示之间的对齐。本文强调了社区在使用CKA作为神经数据对齐度量时应考虑的问题。神经数据处于低数据高维度领域，这是一种情况，即（有偏）CKA会导致即使对于随机矩阵对，也会产生高相似度得分。使用THINGS项目的fMRI和MEG数据，我们展示了如果将有偏CKA应用于低数据高维度领域中不同大小的表示，则由于有偏CKA对不同的特征-样本比率敏感而不是对刺激驱动的响应敏感，它们是不可直接比较的。这种情况既可能发生在将预选的感兴趣区域（例如ROI）与多个ANN层进行比较时，也可能发生在确定哪些ANN层与多个感兴趣区域（ROI）/不同维度的传感器组最相似时。我们展示了当使用不同样本-特征比率的独立随机数据时，有偏CKA可以被人为地推向其最大值。我们进一步展示，与未洗牌数据相比，对真实神经数据的样本-特征对进行洗牌并不会显著改变有偏CKA的相似性，这表明它对刺激驱动的神经响应缺乏敏感性。只有使用去偏CKA才能实现真正的刺激驱动响应的正对齐。最后，我们报告了一些发现，表明有偏CKA对神经数据的固有结构敏感，只有当去偏CKA检测到刺激驱动的对齐时，才与洗牌数据不同。

本文旨在指出使用CKA作为神经数据的对齐度量时需要考虑的问题，因为神经数据处于低数据高维度领域，这是偏差CKA会导致高相似度得分的情况之一，即使是随机矩阵对也是如此。

本文提出使用去偏CKA来解决偏差CKA在低数据高维度领域中的问题，去偏CKA对于刺激驱动的神经响应具有敏感性，可以更好地衡量神经数据的相似性。

本文使用fMRI和MEG数据从THINGS项目中展示了偏差CKA对不同大小的表示的敏感性问题，还展示了偏差CKA在使用独立随机数据时可能被人为地推向其最大值的情况。实验结果表明，洗牌样本特征对偏差CKA相似性的影响不大，表明偏差CKA缺乏对刺激驱动的神经响应的敏感性。只有使用去偏CKA才能获得真正的刺激驱动响应的正向对齐。最后，本文还发现偏差CKA对神经数据的内在结构敏感，只有在去偏CKA检测到刺激驱动的对齐时，才会与洗牌数据有所不同。

与本文相关的研究包括使用CKA作为神经网络对齐的度量的其他研究，例如'Visualizing and Understanding Convolutional Networks'（Zeiler and Fergus，2014）和'Assessing the Scalability of Biologically-Motivated Deep Learning Algorithms and Architectures'（Khaligh-Razavi and Kriegeskorte，2014）。