神经网络有时被称为黑匣子，因为尽管它们可以在某些任务上胜过人类，但即使是设计它们的研究人员也常常不明白它们如何或为什么工作得这么好。
但如果在实验室外使用神经网络，也许可以对有助于诊断心脏病的医学图像进行分类，了解该模型的工作原理有助于研究人员预测它在实践中的表现。
麻省理工学院的研究人员现在已经开发了一种称为 MILAN（用于神经元的互信息引导语言注释）的系统，可以揭示黑盒神经网络的内部工作原理。以人脑为模型，神经网络被排列成处理数据的互连节点或「神经元」层。新系统可以用英语或其他自然语言自动生成这些单个神经元的描述。
该团队表明，这种方法可用于审核神经网络，以确定它学到了什么，甚至可以通过识别然后关闭无用或不正确的神经元来编辑网络。
该研究以「Natural Language Descriptions of Deep Visual Features」为题，于 2022 年 1 月 26 日发表在预印平台 arXiv 上。

论文链接：https://arxiv.org/abs/2201.11114

参考内容：https://techxplore.com/news/2022-01-demystifying-machine-learning-natural-language.html

内容中包含的图片若涉及版权问题，请及时与我们联系删除