Adept是一个新建立的机器学习研究和产品实验室,通过使人和计算机能够创造性地合作来构建一般智能。Adept认为,人工智能系统应该以用户为中心——其愿景是机器与驾驶座上的人一起工作:发现新的解决方案,做出更明智的决策,并留出更多时间进行我们热爱的工作。

“在过去的五年,机器学习的进步比之前的60年要大。从一开始,我们就想构建与人类智能相似可塑性的模型——这些模型可以在高度多样化的任务中学习和提高能力。在大多数情况下,我们的最佳结果仅限于专为在特定领域脱颖而出而设计的模型——它们表现出有前途的能力水平,但都是定制的。但是,当我的联合创始人Ashish Vaswani和Niki Parmar在2017年发明Transformer时,走向普遍性的速度发生了巨大变化。

Transformer是第一个似乎“只是”适用于每个主要人工智能用例的神经网络——正是研究结果让我相信一般智能是可能的。Transformer迅速成为具有高度通用能力的巨型模型的基本架构,为研究人员提供了快速连续解开几十年来问题的关键。当我在OpenAI领导工程部时,我们将Transformer扩展到GPT-2和GPT-3,这是一种语言生成模型,可以撰写新闻文章、诗歌、电子邮件,甚至回答琐碎的问题。谷歌扩展Transformer模型的努力产生了BERT,BERT现在为谷歌搜索提供了动力。几个团队,包括我们的创始团队成员,训练了可以编写代码的Transformer。DeepMind甚至表明,Transformer适用于蛋白质折叠(AlphaFold)和Starcraft(AlphaStar)。

没有Ashish和Niki的工作,这些突破就不会发生,当加入谷歌领导谷歌的巨型模型工作时,我终于有机会与他们密切合作。在那里,我们训练了越来越大的Transformer,梦想最终建立一个通用模型来为所有ML用例提供动力——但有一个明显的局限性:受过文本训练的模型可以写出伟大的散文,但他们无法在数字世界中采取行动。您不能要求GPT-3为您预订航班、向供应商开具支票或进行科学实验。

真正的一般智能要求模型不仅可以读写,而且可以以对用户有帮助的方式行事。这就是为什么我们要开始熟练:我们正在训练一个神经网络,以利用人们已经创建的大量现有功能,使用世界上的每个软件工具和API。

在实践中,我们正在构建一个帮助人们在计算机前完成工作的一般系统:每个知识工作者的通用合作者。把它想象成一个覆盖层,在你的电脑里,与你手并进,使用与你相同的工具。我们的工作部分都比其他人更能激励我们——有了熟练,您将能够专注于您最喜欢的工作,并要求我们的模特承担其他任务。例如,您可以要求我们的模型“生成我们的每月合规报告”或“在本蓝图的这两个点之间绘制楼梯”——所有这些都使用Airtable、Photoshop、ATS、Tableau、Twilio等现有软件来完成工作。我们希望合作者成为一名优秀的学生,高度教练,变得更乐于助人,并与每个人的互动保持一致。

这个产品愿景让我们兴奋不已,不仅因为它对每个在计算机前工作的人都非常有用,还因为我们相信这实际上是通往一般智能的最实用和最安全的道路。与生成语言或自行决策的巨型模型不同,我们的模型的范围要窄得多——我们是现有软件工具的接口,可以更容易缓解偏见问题。对我们公司来说,关键是我们的产品如何成为了解人们偏好并整合每个人反馈的工具。

Adept得到了投资者的支持,刚刚从Greylock的Saam Motamedi和Reid Hoffman、Ind Addition的Lee Fixel、Root Ventures和天使筹集了6500万美元,包括Scott Belsky(Behance创始人)、Howie Liu(Airtable创始人)、Dara Khosrowshahi(优步首席执行官)、Chris Re(斯坦福)、Lip-Bu Tan(Cadence董事长)、Andrej Karpathy(特斯拉自动驾驶负责人)、Nathan Benaich(Air Street)、David Ha、Jaan Tallinn、Sarah Meyohas和Kevin Kwok。

其团队由九位人工智能领导者组成:Kelsey Schroeder,他领导着谷歌巨型模型生产基础设施的产品;GPU计算先驱Erich Elsen,最近共同领导了DeepMind的巨型模型扩展工作;Augustus Odena和Max Nye,他们构建了谷歌的代码生成模型;Anmol Gulati,他构建了谷歌的生产语音识别模型;以及在谷歌的数据和协作人工智能系统专家Fred Bertsch。Adept认为,工程、研究、产品和设计在构建下一阶段人工智能方面同样重要。