VentureBeat今天转载了TechTalk创始人Ben Dickson的文章“What does it take to create a GPT-3 product?”，对此作出了比较悲观的分析。

文章认为，虽然破坏性技术可能需要更多时间来创建可持续发展的市场，而且GPT-3在许多方面都是史无前例的，但是从目前为止的进展看，从GPT-3中受益最大的公司更可能是巨头，而不是创业公司。

从科学的角度看GPT-3 就自然语言处理研究而言，GPT-3并不是一个突破。与其他语言模型一样，它也搞不定常识，并且不善于处理抽象知识。GPT-3的成就在于，其模型参数超过了之前两个数量级，训练数据也在至少10倍以上。

结果是可以执行零样本和少样本学习的语言模型。这实际上意味着你可以将GPT-3应用于很多领域，而无需编写任何代码，无需花费时间和昂贵的资源对其进行重新训练，也无需对架构进行任何调整。对于许多应用场景，只需要告诉AI模型希望输出什么，一两个示例就行，它就能以惊人的精度执行任务。

这种性能引发了人们的猜测：GPT-3是否能使开发人员无需很多深度学习知识就能创建基于AI的应用程序，最终会有新一代企业家在GPT-3之上创建各种新业务呢？

答案是否定的。

从商业角度看GPT-3 OpenAI决定将GPT-3商业化的主要原因是该公司需要可持续的资金。AI研究实验室正在花费大量资金来训练其AI模型并支付其科学家的薪水。而且它无法继续依靠创始人和支持者的捐款来运作。它需要可持续的收入来源。其中一部分来自将其庞大的语言模型出租给其他公司。

将GPT-3交付为云服务的一个好处是，它消除了运行AI模型的技术和财务挑战。开发人员无需费心设置可以运行GPT-3的服务器群集，而可以通过API直接使用语言模型并按需付费，而无需花费辛苦和成本。

但是，尽管OpenAI的GPT-3服务消除了坐姿语言模型的复杂性，但并不能消除构建成功产品所带来的其他挑战：

  • 证明你正在解决人们苦苦挣扎的真实问题
  • 证明你所解决的问题至少比市场上的解决方案好十倍
  • 证明你可以大规模提供服务
  • 制定获利路线图，其中获取客户的成本低于每位客户的平均收入
  • 具有竞争对手无法复制的商业模式

最后一点很重要。想想亚马逊吧，搞一个亚马逊的克隆并非没有可能。那么，为什么没有其他产品可以取代电子商务巨头呢？亚马逊通过网络效应在其平台上建立了沉重的“护城河”：买方继续前往亚马逊，因为那里就是卖方。卖家继续在亚马逊上出售商品，因为那里就是买家。因此，无论您创建的亚马逊克隆品多么出色，除非你能够将大量的买卖双方引入平台，否则将无法以有利可图和可持续的方式将竞争从“所有商店”中夺走。

在GPT-3上构建有利可图的应用程序 在发布基于机器学习的产品时，竞争不仅由网络效果和功能定义，还由AI工厂定义：

  • 必须拥有扎实的基础架构，以整合训练AI模型所需的数据
  • 必须具有收集新的高质量数据的方法，以便不断从用户与产品的交互中学习并调整算法

例如，亚马逊拥有许多有关客户购买的历史数据。这使该公司能够开发机器学习算法，从而可以向客户提供相关建议或使其供应链更高效。这些算法提高了销售，优化了运输和交付并降低了运营成本，从而使Amazon在其他电子商务平台上具有优势。这一优势将更多用户带到亚马逊。用户进而生成更多数据，从而为Amazon提供了更多学习，改进其算法以及尝试以AI为动力的新功能的机会。只要亚马逊能够维持这一周期，它将继续主导电子商务领域。

想要与亚马逊竞争的公司不仅必须复制其产品，而且还必须克服亚马逊巨大的数据障碍。

这就是GPT-3的问题所在。语言模型本身是一个AI工厂。零样本学习作为云API服务交付的系统并不意味着学习新事物。它所具备的一切都是开箱即用的，您无法更改底层的AI模型。而且，如果OpenAI随着时间改进GPT-3（可能会这样做），它将立即同时将升级的模型交付给所有API客户端。

语言模型为每个人奠定了基础。你在GPT-3上构建的任何应用程序都可以轻松地被其他开发人员克隆。

这就是我的主要观点：你不能依靠GPT-3来构建完整的产品和有效的商业模式，而无需采取额外的措施来巩固自己在市场中的地位。另一方面，GPT-3可以是一个很好的平台，可以为已经具有相当大市场份额的应用程序添加关键组件。

GPT-3初创企业 自GPT-3 Beta发布以来，我们已经看到了许多旨在使用语言模型来创建不同应用程序的新兴公司。 Cherry Ventures的投资者Alex Schmitt已编制了一份不错的GPT-3项目清单，包括从自动生成Web和广告文案到恢复写作和网站创建的多种产品。

虽然其中一些应用程序看起来可以解决实际问题，但我看不到大多数应用程序都具有可持续的业务模型。

例如，一家公司将其应用程序称为“第一个由GPT-3驱动的简历构建器”，该应用程序会在您键入时自动完成简历内容。这可能是一个有用的应用程序，但我看不出它如何可以成为可持续的业务。

一方面，基于云的应用程序的主要收入来源之一是订阅用户的经常性收入。因此，GPT-3简历生成器有多个月度订阅计划。但是人们不必每个月都写简历，因此该产品的流失率可能很高，因为大多数用户在注册后的第一个月就会离开。

而且，我不知道为什么微软已经拥有独家GPT-3许可证并拥有LinkedIn，如果证明是真正的改变游戏规则的人，为什么不会免费或以低成本添加此功能到其Office套件中？ 。

另一个例子是Copysmith，该公司使用GPT-3来“在几秒钟内编写广告，描述，元数据，登录页面，博客文章等”。这是GPT-3可能会产生令人鼓舞的结果的领域。我认为GPT-3并不是编写复杂主题的深入分析和意见的好工具。但是，它当然可以承担更简单的任务，例如协助编写Web复制。

向Copysmith提供了提示，例如公司名称，目标受众和简短说明，并且它会生成广告文字、产品说明、市场营销文字等。

值得注意的是，GPT-3生成的文本并不完美，仍然需要进行一些抛光，但可以提高生产率并降低成本。例如，一个人可以使用该工具来完成多个内容编写者的工作，从而降低了员工成本（这使内容编写者感到cha恼）。每月定价包括19美元、60美元和500美元的套餐，分别提供大约500、2,500和20,000件原始内容。因此，它适用于单个公司以及为多个客户提供服务的大型内容工厂。

但是，考虑到使用GPT-3的门槛较低，我不明白为什么其他公司不会复制相同的模型（Headlime是另一家提供类似功能的公司）。另外，大型内容工厂可以毫不费力地创建自己的内部版本的工具。

一家似乎已受到关注的公司是OthersideAI，它使用GPT-3生成电子邮件。向OthersideAI提供关键要点，它将生成完整的电子邮件。 AI还使用电子邮件链和过去的信件作为输入，以进一步个性化电子邮件的语气。

目前OthersideAI还没有发布定价计划，还处于测试阶段。

该公司已经筹集了260万美元的资金来创建其应用程序。但是有趣的是，OthersideAI也知道，仅在GPT-3之上放置一个良好的用户界面并不是一个好的商业策略。该公司在1月22日发布推文：“我们需要您的帮助，教导我们的电子邮件生成器编写更多种类的电子邮件。”

GPT-3是封闭模型，你无法对其进行训练，这意味着在引擎底层下进行的活动比在GPT-3 API上的简单外观要多。明确地说，你可以通过向GPT-3提供一个或多个示例提示和响应来提高其性能。语言模型将这些新示例映射到其庞大的编码知识库，并将其应用于新提示以创建更专业的输出。该公司可能会以此作为其差异化因素。

因此，OthersideAI通过收集大量示例电子邮件来围绕其产品创建一条护城河。然后，它可以以不同的方式使用这些数据来改进GPT-3的基本配置。例如，该公司可能会创建一个更简单的机器学习模型，该模型将用户输入与最相关的示例相匹配，然后将两者都馈送到GPT-3以生成新电子邮件。这可能是一个工作策略。但这也可能是一条危险的道路，它将使公司陷入处理私人用户数据的麻烦中。

OthersideAI的好处之一是它可以集成到不同的电子邮件应用程序中。但有趣的是，看看Gmail或Microsoft Outlook之类的产品将来是否会考虑添加类似的功能。

GPT-3在应用生态系统中的适合位置 正如这些案例所示（我建议你在施密特的网站上浏览所有项目的完整清单），GPT-3并非创建初创企业的轻松之道。我当然希望语言模型及其后继者能够改善现有应用程序，并成为创建内部创造力工具的良好平台（我特别感兴趣于了解微软如何将GPT-3集成到Office，Team，Dynamics和Bing中）。

但是，要在GPT-3之上创造有利可图的新业务和产品，就需要进行周密的计划以抵制模仿者和竞争对手。有趣的是，这样做的方式与其他AI公司所做的没有太大不同：收集质量数据，学习新事物并创建更好的机器学习模型。

————————————————————————————

想要获取更多预训练相关内容，欢迎前往智源社区【预训练专区】

欢迎加入智源社区官方预训练讨论群

近年来预训练语言模型方面涌现了一大批有效、实用并且带给人来启发的成果。 如果你也同时在关注这方面工作，欢迎加入智源社区官方预训练讨论群一起玩耍。 * 在这里获取预训练相关论文推荐； * 参与预训练模型的问题讨论； * 观看领域大牛线上分享。

内容中包含的图片若涉及版权问题，请及时与我们联系删除