“我相信深度学习将能够做任何事情，”在接受MIT Tech Review的记者Karen Hao 10月20日EmTech会议上的采访时，Hinton这样说，“但是我们还需要一些概念性的突破。” 他认为transformer就是这样的突破，但还需要更多类似的突破。尤其是能用大的神经活动向量来实现推理等功能的突破（Particularly breakthroughs to do with how you get big vectors of neural activity to implement things like reason）。

另外规模也非常重要，人脑大约100万亿参数（或者说突触），GPT-3已经达到1750亿，只差一千倍左右了。Hinton所说的规模既指参数也指数据。

此外，他同意常识和（精细）运动控制也非常重要。

在问到人工智能与认知科学的关系时，他谈到：

认知科学领域有两个学派之争。其中一个是由 Stephen Kosslyn （Steven Pinker的导师）领导的，他相信当你在大脑中操纵视觉图像时，你处理的是一堆像素。另一个学派的思想更符合传统的人工智能，认为视觉图像在大脑中是层次化、结构化的表示。你的脑中在操纵符号结构。

我认为他们都犯了同样的错误。大脑内部其实是神经活动的巨大向量。

Hinton也不认同多伦多大学同事Hector Levesque等人深信的符号表示方法（虽然值得尝试），他说符号最终是外部的存在，大脑是对巨大的向量进行内部操作。

他最后还说，自己的观点曾经很不主流，但现在已经被广泛接受，所以没有太多非主流想法了。

完整的采访可以查看原文。同时参考新浪的翻译（不是太准确）。

另外可以参见Hacker News上的评论。

内容中包含的图片若涉及版权问题，请及时与我们联系删除