郭毅可、黄铁军、薛澜：AI超越人类，是个伪命题

现在大家都在说，AI是机遇也是挑战。因为按现在AI的发展速度，未来可能将彻底超越人类。黄教授您说过，预计从今天算起还有20年，为什么您会有这个预测？

实际上这不是我今天才做的判断。我早在十年之前就发表过这个看法，当时更多的是被质疑、被笑话，同意的人连 10%都不到，但今天现场至少有一半左右抱持了这样的想法。

AI能超过人类，并不是背后有什么确定的原理或机制。这个问题如果这么想，那就想错了。

我之所以这么预测，更多是从技术演进的可能性上来进行判断的。因为AI是一门技术，这个系统现在已经具备一定的智能，将来会越来越强。跟今天年会主题“三生万物”的理念一样，智能是个生成演化的过程。当技术条件日渐成熟，它就能具备自我意识，做出自我判断，有自己的目的，然后全面超越人类。这个可能性是存在的，至少没有什么证据能够论证它绝对不存在。

我们搞技术的，看的就是它背后需要的各种技术条件，比如芯片、器件、算法、神经网络复杂度等综合因素，对比当下的进展速度，再去判断这事情多长时间能发生。

这评估里有个问题，就是假定了人本身是停滞不前的。但实际上，人类智慧的进化与机器的发展是交互的。

仔细想想，有了机器以后，我们在很多事情上变得多么聪明：我们借助计算机发明了多少东西？发明以后又因此进化了多少知识？阿尔法狗提升了我们对围棋的理解，各种医学技术也拓展了我们对疾病的认识。30 年前人均预期寿命才50多岁，今天已经到了80多岁。

所以在这个过程里，人的智能也在进化，两者是相对运动。如果你说30年后的机器会超越现在的人类，我相信，但取代30年后的人，这不好说。

其实这个“AI什么时候能/会超越人类”的话题，我一直认为是哲学上的伪命题。

首先我不喜欢“人工智能”这个词，我一般都把它叫作机器智能。即便说人工智能，文章开头也得注明一下，因为这个词对机器是一种轻视和傲慢，人家明明好好有个智能，你非要说是你人工的，就好像人家在模仿你的智能。

机器智能发展自己的智能，并不是为了跟人比较，这跟男人、女人一样，女人的目的不是为了取代男人，而是共存互补。机器智能跟人类智能是不同的，既然是不同的智能，堪比性就不一样。它从来不是以全面超越/替代人为目的的。

而如果我们看的是单项能力，机器在很多特定问题上早已经超过人了。比如汽车，肯定比人跑得快；或是飞机，人会飞吗？事实上，在特定任务上超过人类，本来就是我们人类造任何机器的目的。

关于“超越人类”这个问题，刚才郭教授讲，人工智能在很多单项领域早就已经超过了人类。所以这个问题要说清楚超越人类的什么？而如果我们讲的是所谓AGI，AGI其实有不同定义，这要先定义清楚。

郭教授刚才提到，不能仅仅考虑人工智能的进步，人类也在进步。

仔细想想，其实人类在最近一二百年中依靠科学技术在提高自身素质和能力方面已经取得了巨大进步。现在依靠生命科学技术，我们已经有可能创造出不同于现有人类的其他生命体。如果允许，我们是能改变人类的基因，根据需要的智商、身高、体重、外观等指标创造出我们需要的更聪明更完美的人，但我们希望这样吗？所以，除了提高机器的能力，我们也可以提高人的能力。

从这个角度上讲，未来人类在人机关系里是主是仆，这是人类社会的决定。我们要不要任由人工智能自由的发展，要不要让超出人类能力的智能系统出现？这是人类社会作为一个集体需要思考、需要回答的问题。目前看，在生命技术领域方面还是比较克制的。在人工智能领域，讨论及思考刚刚开始。

关于AGI，标准定义是有自我意识的人工智能，今天很多人把它翻译成通用人工智能，很多做应用的人工智能的公司也说自己以AGI为梦想，这其实是不太对的。

不管是什么定义的AGI，我有一个看法是：永远达不到。因为等到它的智能提高了，我们的标准又会再高一点，这是一个 moving target。

作为一个科学家，“在自己的研究里，为了确保事情不失控，主动限制自己不往前探索”，您认同这个做法吗？假设哪一天在您的研究里，你发现机器要产生自我意识了，你会有意识地放慢脚步控制它吗？

其实现在很多学者对“出现脱离人类控制的人工智能”的风险都已经表示出担心。去年4月份，我们与一些国际知名的人工智能治理学者在颐和安缦开了一场AI安全讨论会，就提出了人工智能研究需要远离的若干红线。

对，这些红线包括：能自我训练——也就是自己找数据、自己提升自己的大模型AI，这是不允许的，我也签字了。

不过，如果单从学术角度开放讨论，做超越人类的一种新物种/系统有没有什么好处/必要性？我的想法是，它可能是未来我们应付未知灾难的武器。

我们老说外星人来了怎么办？以人类的智力水平，我们对付得了外星人吗？对付不了。那就得发明比人类更强大的智能技术。其实今天的大模型一定程度上已经有解决这个问题的可能性。比如语言，人类理解不了外星人的复杂通信语言，但今天的大模型是有可能理解的。

所以强大的智能技术，可能会帮我门应付一些未知的灭顶之灾。

这个外星人的例子可能比较抽象，另一个更直观、已经摆在面前的问题就是气候变化。有了这样强大的人工智能，是不是有可能帮我们找到更多的解析办法？但是核心是怎样避免失控。

其实我觉得，自进化，本身是一个非常漂亮、值得研究的科学问题。

现在的大模型，训练完一个，换一个还得再训一遍，耗费大量人力物力。因为它没有自学习、自进化能力。

一个好的模型应该是什么样的？是可以跟比它更强的模型学习的，能不断地进化自己，而不必重新训练。我们一天到晚讲智能体，一个没有进化的东西能叫智能体吗？所以我最大的研究领域就是自进化。

我觉得现在这种讨论非常有意义。比如人与AI之间是相对运动，担心失控不一定要削弱机器，也可以增强人。比方说自进化，我能不能通过什么方式使这个进化过程有一个很好的反馈，从而控制它？

这个过程中，我们就是应该不断把这些问题提出来，引起我们从事这些工作的人的重视，并把它作为我们的命题，去进行各种新型的研究——而不是说不许进化，这太专制了。我认为我们现在远没有到能够制定规矩、进行监管的地步，路还远着。

这个争论的背后，其实也正正反映着人工智能治理当前面临的实际情况。

确实有相当一批学者认为我们离这个失控的节点还差得远，而另一派已经忧心忡忡，担心有一天在我们没意识到的时候，这个系统就脱离了人类的控制。

现在国际社会包括联合国体系内，对于“必须采取措施，保证未来的AI技术发展不脱离人类控制”这一点，已经基本达成共识，中美之间也有这方面的对话和讨论，大家基本上还是有意愿共同去应对这个风险。

蒋昌建

黄铁军

郭毅可

高山书院以“科学复兴”为使命，以“没有受教、求知探索”为理念，以“公心大用、智识生活”为共识，引导企业家、创业者及各界知名人士学习科学，同时向社会传播科学精神和科学知识。（高山书院是一个什么样的地方？）

同学们心目中的科学与高山