“我们现在需要考虑的不仅仅是工作会不会被取代，或者用 ChatGPT 来帮助自己怎么提升效率，而是应该怎么考虑未来？”
12月25日，清华大学脑与智能实验室首席研究员、清华大学心理学系系主任刘嘉教授在《未来公开课》上，以《通用人工智能与人类未来》为主题，提出了一个令人深思的问题：在不远的将来，如果一个超越人类智慧总和，甚至达到全人类智慧总和十倍的超级智能出现，我们应该怎么办？
“我们现在就站在一个进化的十字路口上。”
在演讲中，刘嘉教授以今年Open AI轰轰烈烈的“宫斗”事件入手，向大家深刻揭露了Open AI CEO奥特尔曼和首席科学家伊利亚“争斗”背后，隐藏着的关于人类未来根本性路线的分歧：即超级加速和超级对齐的核心矛盾。
“奥尔特曼看来，有效加速，就是在未来要创造一个像星球大战里机器人，它会是我们非常有用的一个助手，帮助我们解决各种各样的问题，无微不至的以人类优先来帮助我们。”刘嘉教授谈到，奥尔特曼提出的万物摩尔定律中，认为从人类三次工业革命到现在，生产效率的提升导致商品价格下降，但人力成本则在节节攀升，这造成了社会财富持续增加的同时，人们依旧没有财富自由。
刘嘉教授谈到，正因如此，奥尔特曼已经开始实践一种被称为“乌托邦”的社会构想，在这个计划里，AGI的迅速发展将成为人类的“超级助手”，在取代人类劳动的同时，聚集下的财富不再是按劳分配，而是按需分配，将社会财富按照人头公平配给，让人类真正迎来一个经济自由，人身自由的幸福时代。
因此，以ChaGPT为代表的生成式人工智能的发展必须加速，且势不可挡，人类没有任何理由去限制和阻碍。
“伊利亚他所担忧的未来，就是像电视里面所看见的终结者，人类被机器人无情的碾压，被踩死。”演讲里，刘嘉同时谈到了以伊利亚为代表超级对齐派的担忧。在人类发展历史上，总是发生这样的事件：一个后出现的、更有智慧的生物，将毫不留情地干掉先前的生物。“世界上的所有的动物，要么变成食物，要么变成宠物，没有第三个选择，这是人类成为了万物之灵后所发生的事情。”
因此，超级对齐派强调，必须在AGI迎来技术奇点，即人工智能全面超越人类智能前，对人工智能做好掌控，让人工智能和人类价值观对齐。否则，就太晚了：“一旦当AGI的智能超越了人类后，它会选择一个智能比它低的生物来共存吗？还是直接就消灭掉人类？”
然而，刘嘉教授表示，人类或许还有第三条路，或许也是一条更好的路。在他看来，人类可以适当地把大脑里思想、人格、记忆等等方面，输入计算机。这样，人类就能摆脱脆弱的头题，摆脱时间的限制，从而去探索更为宽广的宇宙，以及追逐更高维度的文明：“通过人机结合二合一，我们来获得一种真正的永生。”
演讲最后，刘嘉表示：“我们的现在是过去的未来，但是我们的现在不是未来的过去，因为未来有无限可能取决于我们此时此刻的选择。”
大家好，我是来自于清华大学的刘嘉，今天我想跟大家分享一个与每个人都有关系的话题《通用人工智能与人类未来》。这两个看上去打不到一起，可这两件事情在我看来是密切相关的。
2022 年人工智能一个应用横空出世，叫ChatGPT。
如果假设去年这个时间前，你问我关于通用人工智能或者像人一样的智能究竟什么会时候会出现？我给你的答案可能是 5 年、 10 年，或者是 500 年，或者 5000 年等。我们不知道，因为它只存在于科幻小说，但是ChatGPT 的出现，以它为代表的通用人工智能火花的闪现，使得我们现在终于可以去思考未来会发生什么样的事情。
一个非常好玩的，就是在最近出现了一个大事， OpenAI 发生了电视上才能看见的宫斗。我们每天都在追踪到底发生什么，最后我们这些吃瓜群众发现脑力不够用，完全追不上情节的变化。
如果要是你这么认为，格局就小了一点。他们其实之间完全没有任何利益之争。这场争斗里最核心的两个人，其实是他们的联合创始人，一个是萨姆·奥尔特曼是CEO，另外一个是公司首席科学家，ChatGPT真正的背后的英雄，它的开发者叫伊利亚·苏斯克沃。这两个人的争斗没有一分钱的利益之争。萨姆·奥尔特曼在 OpenAI 里没有一分钱的股份，自己也不从 OpenAI 拿一分钱，他在国会、美国国会坐镇上面，他这么表示，说我只从 OpenAI 里面拿一点点钱用于cover、用于覆盖我的医疗保险就够。
奥尔特曼所坚持的叫做有效加速，意思是我们能不能把它推得再快一点。伊利亚所坚持的道路是超级对齐，和人类价值观、世界观和人生观要把它对齐，让它像人类一样去思考，像人类一样拥有人类的价值，人类的道德，人类的追求。正是这个路线之争，导致了这两个齐心协力来创办 OpenAI 的兄弟，最终走向了分裂。
所以马斯克就感到更大的一个危机，谷歌已经是世界上最好的 AI 公司，现在又加入了 DeepMind，那不是如虎添翼吗？这个时候马斯克就把他的兄弟伙给找过来，他们决定要成立一家新的公司。这个兄弟伙就是当年马斯克在创办 PayPal 时那一帮兄弟，一块来凑 10 亿美元创建一个新的公司，来推进数字化的智能。但是前提是，我们要让它为人类的未来，为全人类的幸福而服务，而不再是追求商业利益，所以他们这 10 亿美元的捐款是非常了不起的一件事情，他们不追求任何财富的回报。
奥尔特曼本身是一个非常成功的人士，早就获得了财富自由，为什么他会提出要加速 AI 的发展？他没有看到一丝一毫的利益，而是觉得只有这样子才能推动我们社会的变革。他的主张就是叫有效加速，目的就是什么？迅速提升AGI的性能，能够完成更多的任务，能够创造更多的财富。
我没有钱了，那我怎么能富有呢？萨姆·奥尔特曼说，你不用着急，因为AGI 创造的财富会分给大家。他做了一个叫做Universal Basic Income的计划，叫做全民基本收入计划。要把通用人工智能所创造的财富发给每一个成年人，让他们每个月都能无条件的收入到 13500 美元，去维持他们的基本生活所需。
事实上，他已经在斯坦福大学建立了一个 UBI 的实验室，并且在巴尔的摩的一个社区开展了尝试。现在只是一个小规模的尝试，他预计这件事情将会在十年之内发生。需要通过有效加速，能够把我们之前的从按劳分配把它变成按需分配。在这之前，我们人是工作的奴隶。在希伯来语里，工作和奴隶是同一个词，说人类一直是为了出卖自己的时间、劳力来获得自己的生存。有了通用人工智能，人类可以不用再干这件事情了。他说每个人公民都会越来越多享受到经济自觉所带来的自由、权利，更多的人将会有机会过上他们想要的生活。大家不再为五斗米所折腰了，大家不用再为你的生存去被迫从事你不想干的工作，这是第一个自由。
第二点所带来的，就是真正意义上的平等。在远古的时候，大家谁的胳膊劲儿大，谁的肌肉更发达，那么谁就有表达的权利，这也是为什么我们这个社会从一开始就是一个父权社会，男性因为它平均而言有更大的体力。而随着热兵器的出现，靠体力上的优势所获得的权利就在逐渐的取消。因为一个女性，她也可以通过操纵热武器，手枪也好，机枪也好，从而来获得平等。那么通过AGI的出现，将来我们将彻底抛弃掉我们因为肉体、技能、技巧所带来的这种平等，而更多的是凭借我们的脑力。大脑的智力将是我们人类将来去角逐未来，获得地位，获得权力更关键的一个指标，因为在将来我们的普通的工作将会被 AGI 所取代。
但是伊利亚·苏斯克沃却对这一点产生了深度的怀疑。他认为这么下去不仅不会真正的解放人类，但会摧毁人类。所以他更多的坚持是超级对齐。他希望把AGI和我们人类的价值观、人生观和世界观对齐，让他们像我们人类一样拥有我们人类的道德，拥有我们人类的思考方式，拥有我们人类的这种三观，从而不会去摧毁我们人类，变成我们人类的伙伴。
为什么他会考虑到当技术太早的实现会摧毁我们人类？
这需要从人类学的发展历史上来看。人类和猴子大约是在 300 万年前分道扬镳，我们从树上下来，在非洲大草原上行走，从 300 万年到10 万年这么长一段时间，基本上是人类演化的一个垃圾时间。如果你去看出土的这些石器，你没有看见太大变化，它只是做得更加精美一点。比如说斧头做得更加锋利一点，但是它并没有产生更多石器。但是距今大约 10 万年到7万年时间，人类突然一下就好像脑袋开智了，一切就打开了。这个时候看考古的东西，会发现各种各样新奇的物品大量的出现，大家开始制作项链，制作一些其他奇怪的东西，好像与我们生产没有关系的一些东西。比如，他们开始在石骨上去刻上一些花纹，目的是什么我们现在都不清楚。
6万年前的一个化石，一个鸵鸟蛋上，蛋壳上面也有一些花轮。考古学家还发现了一个 4.3 万年前的一个狒狒，一根骨头上面的刻痕，上面刻上了 28 条线，28 条线就代表着一个月的时间，也就是人类在开始通过刻痕来反映这个世界到底发生了些什么事情。
最后的结果还是奥尔特曼取得了上风，在微软员工的支持之下重新回来。所以这个时候，我们面临的还是一个有效加速。但是也有很多人在考虑，我们怎么进一步去约束他，一起来考虑我们人类的未来究竟应该怎么来做。
超越我们人类智能的产生，它一定是一个有生之年系列，也就是说在我们每一个人活着的时候，我们都能看到。软银的孙正义，当年投资阿里的这个孙正义，在最近的一次会上，他说达到像人一样的这种通用智能十年之内就会实现，智能程度将是人类智力总和的 10 倍，这个时候我们人类的智力在将来的 AGI 面前就相当于是猴子在看今天的人类一样。
大家说他只是一个投资人，他了解那么多吗？其实拥有他这种观点的还不止一个。谷歌的首席工程师库兹韦尔，在他书中写到超级人工智能，也就是 AGI ，智能 AI 程序将会在2029 年出现。
但在我看来，可能还存在着第三条道路，也许第三条道路是一条更好的道路，是什么呢？适当把我们的大脑里思想，我们的人格，我们的记忆，我们的性格等等各种各样的方面，能不能上传到计算机去摆脱我们脆弱的肉体？我们的生命的限制，阻碍我们思想前行的其实就是我们脆弱的肉体。
我觉得这也许是我们人类一个更好的解决方案，一方面我们有效加速推动AGI的发展，第二方面我们大力进行脑科学的研究，对人类大脑的思想进行解码。这个时候我们既保留了我自我，同时也借助于计算机的超强的算力，我们会变得更加的睿智，我们可以去探索一个更广袤的宇宙，人类就不再局限于地球这上面，成为一个三维的生物，也许我们可以去探索四维、五维、六维甚至更高维的空间，我们可以穿越几千万光年的距离，而去到达宇宙的尽头，看看那些地方究竟发生了什么样的事情。
我们每一个人，都是一个非常有幸的个体。在这个巨变的开端里，我们此时此刻拥有一个难能可贵的机会去打造未来，我们清华有个学生当时在他的报告里，提到了一句话，我觉得特别特别的精彩。他说，我们的现在是过去的未来，这就是让一个因果，过去你所做的决定就决定了我们现在，但是我们的现在不是未来的过去，因为未来有无限可能取决于我们此时此刻的选择。
到了年底，我们总是要写一点我们对未来的期望，不妨考虑一下我们的通用人工智能，考虑一下人类的未来，考虑一下我们作为人类这一个群体，我们怎么在这一个大变革的时候，怎么去选择我们自己的道路，在这个创造未来的时刻，有你我的身影在里面。
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢