AGI，即通用人工智能，是当今科技领域最热门的话题之一。这也是最具争议的之一。问题的一个重要部分是，很少有人同意这个词的含义。现在，一个由谷歌DeepMind研究人员组成的团队发表了一项论文，该论文不仅与AGI的一个新定义，而且与它们的整个分类进行了交谈。

与Ilya Sutskever的独家对话，讨论他对人工智能未来的担忧，以及为什么这些担忧让他改变了他一生工作的重点。

广义上，AGI通常是指在一系列任务上匹配（或胜过）人类的人工智能。但关于什么像人类、什么任务以及有多少任务都倾向于被挥走的具体内容：AGI是人工智能，但更好。

为了提出新的定义，谷歌DeepMind团队从AGI的突出现有定义开始，并得出了他们认为的基本共同特征。

该团队还概述了AGI的五个提升级别：新兴（在他们看来，这包括ChatGPT和巴德等尖端聊天机器人）、有能力、专家、大师和超人（比所有人类更好地执行广泛的任务，包括人类根本做不到的任务，如解码其他人的思想、预测未来事件和与动物交谈）。他们指出，除了新兴的AGI之外，没有达到任何水平。

纽约大学人工智能研究员Julian Togelius没有参与这项工作，他说：“这为该主题提供了一些急需的清晰度。”“太多人闲逛AGI这个词，却没有多想他们的意思。”

研究人员上周毫无大张旗鼓地在网上发布了他们的论文。在与两名团队成员——DeepMind的联合创始人之一Shane Legg（现在被称为该公司的首席AGI科学家）和谷歌DeepMind的人类和人工智能互动首席科学家Meredith Ringel Morris——的独家对话中，我了解了他们为什么提出这些定义以及他们想要实现的目标。

更清晰的定义

大约20年前首次提出这个词的Legg说：“我看到很多讨论，人们似乎在用这个词来表达不同的东西，这导致了各种混乱。”“既然AGI正在成为一个如此重要的话题——你知道，甚至英国首相都在谈论它——我们需要锐化我们的意思。”

并不总是这样。AGI的谈话曾经在严肃的谈话中被嘲笑为充其量是模糊的，最糟糕的是神奇的思维。但在围绕生成模型的炒作的推动下，关于AGI的嗡嗡声现在无处不在。

当Legg向他的前同事兼研究员Ben Goertzel推荐Goertzel2007年关于人工智能未来发展的书的标题时，手部波动有点关键。“我没有特别明确的定义。我真的觉得没有必要，”Legg说。“实际上，我认为它更像是一个研究领域，而不是一个人工制品。”

随着对技术疯狂的希望和恐惧，是时候就它能做什么和不能做什么达成一致了。

他当时的目标是将可以很好地完成一项任务的现有人工智能（如IBM的国际象棋程序深蓝）与他和其他许多人想象有一天会很好地完成许多任务的假设人工智能区分开来。Legg说，人类智力不像深蓝：“这是一件非常广泛的事情。”

但多年来，人们开始认为AGI是实际计算机程序可能拥有的潜在属性。今天，谷歌DeepMind和OpenAI等顶级人工智能公司就其构建此类项目的使命发表大胆的公开声明是正常的。

Legg说：“如果你开始进行这些对话，你需要更具体地说明你的意思。”

例如，DeepMind研究人员表示，AGI必须既是通用的，也是高成就的，而不仅仅是一个或另一个。Togelius说：“以这种方式分离广度和深度非常有用。”“这表明为什么我们过去看到的非常完善的人工智能系统没有资格成为AGI。”

他们还表示，AGI不仅必须能够完成一系列任务，还必须能够学习如何完成这些任务，评估其绩效，并在需要时寻求帮助。他们表示，AGI能做什么比它如何做更重要。

Morris说，并不是说AGI的工作方式并不重要。问题是，我们对大型语言模型等尖端模型在引擎盖下工作的方式还不够了解，以使其成为定义的焦点。

Morris说：“随着我们对这些基本过程的更多见解，重新审视我们对AGI的定义可能很重要。”“我们需要以科学商定的方式专注于我们今天可以衡量的东西。”

测量

衡量当今模型的性能已经存在争议，研究人员正在辩论大型语言模型通过数十项高中考试等的真正意义。这是智力的标志吗？还是一种死记硬背的学习？

评估更有能力的未来模型的性能将更加困难。研究人员建议，如果开发出AGI，应该持续评估其能力，而不是通过少数一次性测试来评估。

该团队还指出，AGI并不意味着自治。Morris说：“人们通常有一个隐含的假设，即人们希望系统完全自主运行。”但情况并非总是如此。理论上，有可能建造完全由人类控制的超级智能机器。

研究人员在讨论什么是AGI时没有解决的一个问题是，为什么我们应该构建它。一些计算机科学家，如分布式人工智能研究所创始人Timnit Gebru，认为整个努力很奇怪。Gebru在4月份关于她认为通过AGI实现的乌托邦的虚假（甚至危险）承诺的演讲中指出，假设的技术“听起来像一个没有范围的系统，其明显目标是试图在任何环境中为每个人做任何事情。”

大多数工程项目都有范围广的目标。建立AGI的使命并没有。甚至谷歌DeepMind的定义也允许无限广泛和无限智能的AGI。Gebru说：“不要试图建造一个神。”

在构建更大、更好的系统的竞赛中，很少有人会听从这样的建议。无论哪种方式，围绕一个长期困惑的概念有一些清晰度都是受欢迎的。Legg说：“只是进行愚蠢的对话有点无趣。”“如果我们能克服这些定义问题，有很多好东西可以挖掘。”

内容中包含的图片若涉及版权问题，请及时与我们联系删除