Open-Endedness is Essential for Artificial Superhuman Intelligence

近年来，人工智能系统的普遍能力出现了巨大的增长，主要是通过在互联网规模数据上训练基础模型所驱动的。然而，创造出开放式、不断自我改进的人工智能仍然是难以实现的。在这篇立场论文中，我们认为现在已经具备了实现针对人类观察者的人工智能系统开放式的条件。此外，我们认为这种开放式是任何人工超级智能（ASI）的必要属性。我们首先通过新奇性和可学习性的视角提供了开放式的具体形式定义。然后，我们通过建立在基础模型之上的开放式系统展示了通向ASI的道路，这些系统能够做出新颖的、与人类相关的发现。最后，我们考虑了普遍能力开放式人工智能的安全影响。我们预计，开放式基础模型将成为近期研究中越来越肥沃和安全关键的领域。

实现人类观察者视角下的开放性人工智能系统，并探讨其安全性问题。

利用基础模型构建开放性系统，通过新颖性和可学习性实现人类相关的发现，为实现人工超级智能打下基础。

论文提供了开放性的形式化定义，通过实验验证了开放性系统的可行性，并探讨了开放性系统的安全性问题。

最近的相关研究包括基础模型的训练以及开放性系统的设计和实现，如GPT-3、OpenAI等。