人工智能在 AIGC、AI for science 等领域持续发展，一些工作也在知识型模型方面做出了探索。除了这些研究成果，我们还会发现这一年人工智能从业者的工作情况也有比较大的变化。

例如，Meta 等大型科技公司进行了大规模的裁员，让很多 AI 从业者考虑新的就业方向。另一方面，多位 AI 专家选择离开大型科技公司，投身 AI 创业。

根据 Business Insider 的一项调查统计，近一年内，Alphabet 这一家公司有 26 位 AI 专家离职，其中包括子公司谷歌、DeepMind 两大科技巨头。多位专家离职之后创办了新公司，并总计筹集到数亿美元，致力于构建下一代 AI 工具。

无论是 DALL-E 2 等 AIGC 模型，还是 ChatGPT 这样的大规模语言模型，它们都需要技术和资源两方面的强有力支撑。在资源方面，谷歌、Meta、Hugging Face、Stability AI 等公司会提供强大的训练基础设施；而在技术支撑上，当下 AI 领域的许多大进展都可以追溯到谷歌的研究者在 2017 年发表的一篇开创性论文 ——《Attention is all you need》。

 

 

这篇论文提出的 Transformer 架构成为后来许多 AI 模型的基础。目前，这篇发表 5 年的论文引用量已破 6 万。现在这些作者所在的机构发生了很大变化：

因此，谷歌会成为机器学习专业人才的来源，这一点应该不足为奇。特别是 Transformer 的论文作者，其中已有六位推出了自己的创业公司，还有一位已经加入 OpenAI，仅余一位还在谷歌工作。

Adept AI

Ashish Vaswani 和 Niki Parmar 二人在 2022 年 4 月成立了 Adept AI，并从 Addition 和 Greylock 等获得融资 6500 万美元。这家创业公司专注于创建一种基于与文本生成工具相同核心技术的机器人，CEO、CTO 和首席科学家都来自谷歌，还聚集了一批曾在谷歌工作的技术人才：

  • David Luan：Adept AI CEO。前 OpenAI 加州实验室工程副总裁，曾加入谷歌大脑，GPT-2、PaLM 的论文作者之一，参与了 GPT-3 的部分工作；
  • Ashish Vaswani：Adept AI 首席科学家。Transformer 论文作者之一。
  • Niki Parmar：Adept AI CTO。前谷歌大脑研究员，Transformer 论文作者之一。
  • Anmol Gulati：前谷歌大脑研究工程师，曾参与谷歌的大规模语音和语言建模研究；
  • Erich Elsen：在 DeepMind、谷歌大脑、百度都工作过，研究涉及机器学习和高性能计算交叉领域，在 DeepMind 参与领导大模型的训练工作；
  • Kelsey Szot：前谷歌 ML 产品经理，曾领导谷歌大模型生产基础设施产品。

David Luan 曾讲述过自己离开谷歌创业的动机：

在谷歌，我们训练出了越来越大的 Transformer，梦想着有朝一日构建一个通用模型来支持所有 ML 用例。但是，这其中有一个明显的局限：用文本训练出的模型可以写出很棒的散文，但它们无法在数字世界中采取行动。你不能要求 GPT-3 给你订机票，给供应商开支票，或者进行科学实验。

Inflection AI

此外还有 Inflection AI，这是一家在通用建模领域的私人企业，它在 2022 年 5 月筹集了 2.25 亿美元。Mustafa Suleyman 是 Inflection AI 的 CEO 和联合创始人。

Mustafa Suleyman

Mustafa Suleyman 是 DeepMind 人工智能实验室的创始成员，并在 2020 年（也就是谷歌收购 DeepMind 六年之后）成为谷歌人工智能产品与政策副总裁。至少有四名谷歌 AI 员工在今年加入了 Inflexion AI：

  • Karen Simonyan：曾是 DeepMind 首席研究员，现为 Inflection AI 联合创始人、首席科学家。
  • Rewon Child：曾是谷歌大脑研究员，现为 Inflection AI 技术人员。
  • Maarten Bosma：曾是谷歌大脑研究工程师，从事 PaLM 模型的研究，现为 Inflection AI 技术人员。
  • Joe Fenton：前谷歌高级产品经理，曾从事 LaMDA 研究，现为 Inflection AI 团队成员。

Character. AI

Character.ai 是另一家由关于人工智能的开创性文章的作者创立的创业公司。这家公司的产品为用户提供了一种与机器人对话的方式。这家公司正式成立于 2021 年 10 月，对于这家公司的组织架构和业务模式，外界不甚了解。

Character.AI 的创始人、CEONoam Shazeer 是前谷歌首席软件工程师，Transformer 论文作者之一。他在 2000 年底加入谷歌，直到 2021 年最终离职，是谷歌最重要的早期员工之一。

还有四位谷歌 AI 技术人才陆续加入了 Character.AI：

  • Irwan Bello：前谷歌大脑团队研究员，现为 Character.ai 创始团队成员。
  • Prajit Ramachandran：前谷歌大脑研究员，现为 Character.AI 的创始研究员。
  • Romal Thoppilan：谷歌聊天机器人 LaMDA 论文作者之一，现为 Character.ai 创始研究员。
  • Daniel De Freitas：LaMDA 论文的作者之一，现为 Character.AI 总裁。

本文转自机器之心，阅读原文请点击这里