当前的人工智能（AI）处在一个奇妙的时代，时常会出现让人惊叹的隐性知识（Polanyi 的复仇和人工智能的新型浪漫与隐性知识，https://bit.ly/3qYrAOY），但可以确信在未来相当长的一段时间，计算机无法完成这个任务。最近出现的让人感兴趣的研究是基于 Transformer 架构的大型学习系统，基于大网络规模的多模态语料库和数十亿参数的训练。典型例子如大型语言模型、响应任意形式文本 prompt 的 GPT3 和 PALM、将文本转换成图像的语言 / 图像模型 DALL-E 和 Imagen（甚至具有通用行为的模型如 GATO）。

 

大型学习模型的出现从根本上改变了人工智能研究的性质。最近研究人员在使用 DALL-E 时，认为它似乎已经发展出自己的特有语言，如果人类能掌握它，或许可以更好地与 DALL-E 交互。也有研究人员发现，可以通过在 prompt 中添加某些神奇的咒语（比如「让我们一步步地思考」）来改善 GPT3 对推理问题的表现。现在 GPT3 和 DALL-E 这样的大型学习模型就像是「外星物种」一样，我们要尝试解码它们的行为。

 

阅读详情

内容中包含的图片若涉及版权问题，请及时与我们联系删除