首席执行官Sam Altman平息了OpenAI已经在开发GPT-5的谣言。然而，对于那些担心人工智能安全的人来说，这些评论可能不会得到太大的安慰。

在关于人工智能系统构成的威胁的讨论中，OpenAI首席执行官兼联合创始人Sam Altman证实，该公司目前没有培训今年3月发布的人工智能语言模型GPT-4的假定继任者GPT-5。

在麻省理工学院的一次活动中，Altman被问及最近在科技界流传的一封公开信，该信要求像OpenAI这样的实验室暂停“比GPT-4更强大的”人工智能系统开发。这封信强调了对未来系统安全的担忧，但受到了业内许多人的批评，包括一些签署方。专家对人工智能构成的威胁的性质存在分歧（它是存在性的还是更平凡的？）以及该行业最初如何“暂停”发展。

在麻省理工学院，Altman说，这封信“缺少了我们需要暂停的地方的大多数技术细微差别”，并指出，早期版本声称OpenAI目前正在训练GPT-5。“一段时间内，我们不是，也不会，”Altman说。“所以从这个意义上说，这有点愚蠢。”

然而，仅仅因为OpenAI没有在GPT-5上工作，并不意味着它没有扩展GPT-4的能力——或者，正如Altman热衷于强调的那样，考虑到此类工作的安全影响。他说：“我们正在GPT-4的基础上做其他事情，我认为有各种安全问题，这些问题需要解决，并且完全被排除在信外。”

GPT炒作和版本号的谬误

Altman的评论很有趣——尽管不一定是因为他们揭示了OpenAI的未来计划。相反，他们强调了关于人工智能安全的辩论中的一个重要挑战：测量和跟踪进度的困难。Altman可能会说，OpenAI目前没有训练GPT-5，但这不是一个特别有意义的声明。

一些困惑可以归因于我所谓的版本号谬误：编号技术更新反映了能力的明确和线性改进的想法。这是一个多年来在消费技术领域培养的误解，分配给新手机或操作系统的数字渴望版本控制的严谨性，但实际上只是营销工具。“当然，iPhone 35比iPhone 34更好，”这个系统的逻辑是这样。“数字更大，当然，手机更好。”

由于消费技术和人工智能世界之间的重叠，这种相同的逻辑现在经常应用于OpenAI的语言模型等系统。这不仅是那些发布夸张，推特线程的骗子，预测超级智能人工智能将在几年内出现，因为数字越来越大，还有更知情和更成熟的评论员。由于许多关于人工智能超级智能的说法基本上是不可证伪的，这些人依靠类似的言论来表达他们的观点。他们绘制带有标有“进度”和“时间”的轴的模糊图表，绘制一条向上和向右的线，并不加批判地将其作为证

这不是要消除对人工智能安全的担忧，也不要忽视这些系统正在迅速改进，并且不完全在我们的控制之下。但这并不是说有好的论点和坏的论点，仅仅因为我们给某件事一个数字——无论是新手机还是智能概念——并不意味着我们完全可以衡量它。

相反，我认为这些讨论的重点应该放在能力上：演示这些系统可以做什么和不能做什么，以及预测这可能会随着时间的推移而发生怎样的变化。

这就是为什么Altman确认OpenAI目前没有开发GPT-5不会对担心人工智能安全的人有任何安慰。该公司仍在扩大GPT-4的潜力，该行业的其他人正在构建类似的雄心勃勃的工具，让人工智能系统代表用户发挥作用。毫无疑问，为了优化GPT-4，也正在进行各种工作，OpenAI可能会首先发布GPT-4.5（就像GPT-3.5一样）——这是版本号可能误导的另一种方式。

即使世界各国政府能够以某种方式实施禁止新的人工智能发展，但很明显，社会对目前可用的系统忙得不可开交。当然，GPT-5还没有到来，但当GPT-4仍然没有被完全理解时，这重要吗？

内容中包含的图片若涉及版权问题，请及时与我们联系删除