2020 年 6 月,OpenAI 推出了一个用于访问自家开发的新 AI 模型 GPT-3 的 API——OpenAI API。与其他大多数设计用于单一用例的 AI 系统不同,该 API 提供了一个通用的「text in, text out」界面,用户可以在任何英文任务上试用。这是 OpenAI 首个商用产品。

9 个月过去了,如今已有超过 300 个应用在使用 GPT-3,全球数万用户也在该平台上进行开发活动。目前,该平台平均每天可以生成 45 亿单词,并且仍在持续上升。

在具体实现上,用户输入短语或句子等文本提示,GPT-3 会返回可以看懂的自然语言文本补全。开发者通过向 GPT-3 展示少数示例或提示,即可对它进行「编程」。该 API 的简单易用性也使得机器学习团队实现了更高的生产效率。

GPT-3 API 的行业应用场景

GPT-3 的应用范围涉及教育、游戏等多个领域,其中的应用程序利用了 GPT-3 的多种功能,我们来看一些具体的应用案例。

Viable 通过使用 GPT-3 来帮助行业内公司更好地了解他们的客户,并以易于理解的摘要形式从客户反馈中提供有用的信息。使用 GPT-3,Viable 可从客户调查、客服、实时聊天记录、评论等中识别主题、情感、情绪等。然后再从汇总反馈中提取见解,并在几秒钟之内提供摘要。例如:

问:什么会让用户存在不满意的结账体验? 答:客户对结账流程感到不满,因为等待时间过长。客户还希望在结账时能够编辑地址,并保存多种支付方式。

Viable 的 CEO Daniel Erickson 说:GPT-3 从自然语言中识别主题并生成摘要的能力使得 Viable 让行业内公司的营销团队更好地了解客户需求,提升客户体验。

再来看一个更有趣的例子。Fable 工作室正在创建一种新型的交互式故事,并使用 GPT-3 来帮助构建故事里的虚拟人物。

曾获艾美奖虚拟角色奖,《墙壁里的狼》剧中的 Lucy 借助 GPT-3 生成的对话能够与人们进行自然的对话。Lucy 应邀参加了 2021 年圣丹斯电影节的演出,并介绍了自己的电影《Dracula》。Fable 工作室的 CEO Edward Saatchi 表示:「GPT-3 使我们能够赋予角色生命力。人工智能与艺术创作结合,能够创造出更有感染力的艺术作品。」

此外,GPT-3 还被应用于文本搜索。搜索产品公司 Algolia 将 GPT-3 用于 Algolia Answers 产品,以为用户提供闪电般快速的语义搜索。Algolia 的产品与 GTM 经理 Dustin Coates 表示:「GPT-3 使 Algolia Answers 产品能够回答比以往更复杂的查询,更深度地识别语境信息以提高搜索结果的质量,并在几秒钟内交付。」

平台改进

随着访问的扩展,OpenAI 不断地改进平台,包括实现内容过滤器以及向开发者提供新功能等,具体改进如下:

1.回答端点(answer endpoint):在利用 GPT-3 进行文本补全之前,为添加至提示的相关上下文搜索已有信息,如文档和知识库等。可用于与机器人有关的应用,并且无需微调;

2.分类端点(classification endpoint):无需微调即可利用标注训练数据。通过搜索最接近输入查询的示例并将它们添加至提示,性能往往可以媲美 SOTA 微调模型,并提供一种易配置和调整的 AutoML 解决方案;

3.增强搜索端点(enhanced search endpoint):为回答和分类端点提供基础,可以扩展至大量文档并且成本低、速度快;

4.安全性:在开发者进行生产前,要求他们执行速度限制、用户验证和测试等安全措施或人机回圈(human-in-the-loop)操作。此外,开发团队开发和部署了内容过滤器,用来分类安全、敏感或危险文本;

5.提示库(prompt library):针对数十个用例提供启动提示(starter prompt)设计样板,如表格生成器、语言校正器以及机场代码提取器等,这样用户可以直接在 Playground 中使用它们进行编程。

不过,作为一款商用产品,OpenAI API 已自 2020 年 10 月 1 日开始收费,且价格不菲,其中 Explore 版本前 3 个月免费试用、Create 版本 100 美元 / 月、Build 版本 400 美元 / 月,还有 Scale 版本。 这样的收费标准,普通用户可能玩不起。所以,目前 OpenAI API 只适用于大规模企业用户。

参考链接: https://openai.com/blog/gpt-3-apps/ https://chengh.medium.com/understand-the-pricing-of-gpt3-e646b2d63320