福布斯：OpenAI的Sam Altman谈论ChatGPT以及人工智能如何“打破资本主义”

Alex Konrad：对我来说，我们正处于ChatGPT受欢迎程度、将其货币化的推动以及与微软合作的兴奋点。从你的角度来看，OpenAI在旅程中感觉如何？你会如何描述拐点？

Sam Altman：这绝对是一个激动人心的时刻。但我希望现在还为时过早。实际上，这将是改进技术及其对社会的积极影响的持续指数路径。我们本可以在GPT-3发射或DALL-E发射时说同样的话。我们现在说[使用ChatGPT]。我想我们可以稍后再说一遍。现在，我们可能错了，我们很可能会遇到一个我们没有或意想不到的绊脚石。但我认为我们真的有可能在这里找到一些重要的东西，这种范式会把我们带到非常非常远的地方。

你对ChatGPT的回复感到惊讶吗？

我想这样做，因为我以为它会起作用。所以，我对这种规模感到有些惊讶。但我希望并期待人们会真正喜欢它。

[OpenAI总裁]格雷格·布罗克曼告诉我，团队不是，甚至确定值得启动。所以不是每个人都有这种感觉。

团队对尝试运送东西没有那么兴奋的历史悠久。我们只是说：“让我们试试吧。让我们试试看，看看会发生什么。”这个，我努力推动这个。我真的以为它会起作用。

你过去说过，你认为人们可能会对ChatGPT是如何真正走到一起或运行感到惊讶。你会说什么是被误解的？

因此，其中之一是ChatGPT的基本模型已经在API中存在很长时间了，你知道，比如10个月，或者其他什么。[编者按：ChatGPT是GPT-3型号的更新版本，于2020年首次作为API发布。]我认为令人惊讶的是，如果你做一些微调，让[模型]以特定的方式提供帮助，并找出正确的交互范式，那么你就可以得到这个。实际上，并不是从根本上新技术让它有时间。是这些其他事情。我认为这一点不是很好理解的。就像，很多人仍然不相信我们，他们认为这一定是GPT-4。

随着整个人工智能生态系统的泡沫，涨潮对你有帮助吗？还是它会制造噪音，让你的工作变得更加复杂？

两者都有。绝对是两者兼而有之。

你认为这里正在形成一个真正的生态系统，除了OpenAI外，公司正在那里做重要的工作吗？

是的，我认为这对一家公司来说太大了。事实上，我希望这里有一个真正的生态系统。我觉得那好多了。我认为在某个时候，世界上应该有多个AGI[人工一般智能]。所以我真的非常欢迎。

您认为当今人工智能市场的位置与云计算、搜索引擎或其他技术的出现之间有什么相似之处吗？

听着，我认为总是有相似之处。然后总是有些事情有点独特。大多数人犯的错误是过多地谈论相似之处，而不是谈论使它们与众不同的非常微妙的细微差别。因此，谈论OpenAI非常简单和易懂，比如：“啊，是的，这就像云计算之战一样。这些平台将有几个，你只需要用一个作为API。”但关于它的很多东西也超级不同，人们会做出非常不同的功能选择。云在某些方面大不相同，但你放了一些东西，它就得到了服务。我认为各种人工智能产品之间会有更多的传播。

人们想知道ChatGPT是否取代了传统的搜索引擎，如谷歌搜索。这是激励你或激励你的东西吗？

我的意思是，我认为ChatGPT不会[替换搜索]。但我认为有一天，人工智能系统可以。然而，不仅如此，我认为如果你专注于昨天的新闻，人们就完全错过了机会。我更有兴趣思考什么远远超出了搜索范围。我不记得我们在网络搜索之前做了什么，我有点太年轻了。我猜你也是......

当我还是个孩子的时候，我们有一张大英百科全书的CD-ROM。

是的，好吧，没错。就这样吧。我记得，实际上，正是这样。但是，没有人走过来说：“哦，我打算在我的小学的CD-ROM上制作一个稍微好一点的《大英百科全书》版本。”他们说：“嘿，实际上我们可以以一种超级不同的方式做到这一点。”对于这些型号，我感到兴奋的是，它不是说，“哦，你如何取代上网和输入搜索查询的体验”，而是“我们做什么是完全不同的，也更酷？’”

OpenAI首席执行官Sam Altman拒绝为这个故事拍照。这是他的生成人工智能工具DALL-E如何想象“《福布斯》杂志封面上的Sam Altman”——在这张生成的图像中，自豪地亲自呈现它。DALL-E

你觉得我们接近AGI的目标吗？我们怎么知道那个版本的GPT，或者不管它是什么，什么时候到达那里？

我不认为我们非常接近AGI。但我们如何知道的问题是我最近一直在思考的问题。在过去的五年里，我所做的一次更新，或者无论我这样做的时间有多长——都是，这不会是一个如此清晰的时刻。这将是一个更渐进的过渡。这将是人们所说的“缓慢起飞”。没有人会同意我们拥有AGI的时刻是什么。

你认为这与OpenAI以外的所有兴趣都相关吗？它们都符合AGI理论、Worldcoin和其他这些公司吗？

是的，是的。至少我认为这就是我认为的框架。[AGI]是推动我所有行动的推力。有些比其他更直接，但许多看起来不直接的仍然如此。然后还有进入富足世界的目标。例如，我认为能量真的很重要，但能量对创造AGI也很重要。

Greg [Brockman]表示，虽然OpenAI是由研究驱动的，但它不是反资本主义的。您如何在与希望回报的投资者盈利和OpenAI的更广泛目标之间驾驭电线行为？

我认为资本主义太棒了。我爱资本主义。在世界上所有糟糕的系统中，它是迄今为止我们发现的最好的系统——或者最不坏的系统。我希望我们能找到更好的方法。我认为，如果AGI真的完全发生，我可以想象它破坏资本主义的所有这些方式。

据我所知，我们试图设计一个与任何其他公司结构不同，因为我们实际上相信我们正在做的事情。如果我们只是认为这将是另一家科技公司，我会说：“太好了，我知道这本剧本，因为我整个职业生涯都在这样做，所以让我们开一家真正的大公司吧。”但是，如果我们真的、真正地得到了AGI，并且它坏了，我们将需要一些不同的东西[在公司结构中]。因此，我很高兴我们的团队和投资者做得非常好，但我认为任何一家公司都不应该拥有人工智能世界。如何分享AGI的利润，如何共享访问以及如何分配治理，这三个问题需要重新思考。

Greg向我介绍了第三方API未来的想法，以及第一方产品——也许是企业工具。当您产品化时，您如何保持OpenAI保持开放的精神？

我认为我们这样做最重要的方式是推出像ChatGPT这样的开放式工具。谷歌不会将这些东西用于公众使用。其他研究实验室出于其他原因不这样做；有些人担心它不安全。但我真的相信，我们需要社会对此有感觉，与之搏斗，看到好处，了解缺点。因此，我认为我们做的最重要的事情是把这些东西放在那里，这样世界就可以开始了解接下来会发生什么。在我为OpenAI感到自豪的所有事情中，最大的一件事是，我们能够以我认为健康和重要的方式在AGI上推动Overton Window[编者按：了解哪些政策在特定时间被公众政治上可接受的模式]——即使有时很不舒服。

除此之外，我们希望提供越来越强大的API，因为我们能够使它们更安全。我们将继续开源的东西，比如开源CLIP[编者按：2021年发布的视觉神经网络]。开源的真正导致了图像生成的繁荣。最近，我们开源了Whisper和Triton（自动语音识别和编程语言）。因此，我相信这是一个多管齐下的策略，将东西带入世界，同时平衡每件特定事物的风险和收益。

对于那些可能担心你把车开到[首席执行官] Satya [Nadella]和微软的人，你会怎么说？

我想说，我们已经精心构建了与他们达成的任何交易，以确保我们仍然能够完成我们的使命。此外，Satya和微软也很棒。我认为，到目前为止，他们是最符合我们价值观的科技公司。每次我们去找他们说：“嘿，我们需要做一件你可能会讨厌的奇怪的事情，因为这与标准交易会做的大不相同，比如限制你的退货或让这些安全覆盖条款，”他们说，“这太棒了。”

因此，您认为OpenAI营利方面的业务压力或现实不会与公司的整体使命相冲突？

一点也不。你可以把我和任何人一起推荐。我以不忍受任何我不想忍受的事情而闻名。如果我这么想，我不会做交易。

你们不是穿着发衫的僧侣，说：“我们不想从中获利。”与此同时，感觉你也没有被创造财富所激励。

我认为这肯定是一种平衡。我们希望让人们非常成功，[他们的股权]获得巨大的回报，这很好，只要它处于正常、合理的水平。如果完整的AGI事件坏了，我们希望该范式具有不同的东西。我们希望现在能够烘焙如何与社会分享这一点。我认为我们以一种很好的方式做到了平衡它。

到目前为止，你看到有人用GPT做的最酷的事情是什么？最让你害怕的是什么？

真的很难选择一个最酷的东西。看到人们所做的事情的多样性是令人瞩目的。我可以告诉你我发现最个人效用的事情。总结对我来说绝对是巨大的，比我想象的要多得多。事实上，我只能总结完整的文章或长长的电子邮件线程，这比我想象的要有用得多。此外，能够提出深奥的编程问题或帮助调试代码，感觉我有一个超级出色的程序员可以与之交谈。

至于一件可怕的事情？我绝对非常关切地观看了开源图像生成器正在发生的复仇色情一代。我认为这造成了巨大和可预测的伤害。

你认为这些工具背后的公司有责任确保这种事情不会发生吗？或者这只是人性不可避免的一面？

我认为两者兼而有之。有一个问题，比如，你想在哪里监管它？从某种意义上说，如果我们能指出这些公司并说：“嘿，你不能做这些事情，那就太好了。”但我认为人们无论如何都会使用开源模型，这大多会很棒，但会发生一些坏事。在其基础上建立的公司，与最终用户有最后关系的公司，也必须承担一些责任。因此，我认为那里将是共同的责任和问责制。