6月15日,36氪WAVES新浪潮2024大会圆满召开,大会以“别回头,向前看”为主题,召集创投圈的热血青年,共话时代品格,引领创新潮流。在《巅峰对谈:风再起时》环节中,36氪旗下平台“暗涌WAVES”主笔于丽丽与澜舟科技合伙人&联席CEO李京梅、昆仑万维董事长兼CEO方汉,共同深刻探讨了AI ToC和ToB的生态里如何取胜、AI浪潮中的创业机遇等话题。


以下内容为澜舟科技合伙人&联席CEO李京梅的精彩观点分享:

暗涌WAVES:澜舟科技是大模型浪潮中非常早入局的公司,在ChatGPT火起来之前入局和之后入局可能带来的差异是什么?

李京梅:澜舟科技是2021年6月正式创立的实体公司,我们从创业之初就已经在做预训练模型,当时没有ChatGPT,在技术圈外大家不是太了解。当时的模型是基于transformer技术去做的预训练模型,澜舟科技的品牌一直也没有变过,从孟子预训练模型到如今的孟子大语言模型。

比较早入局有什么样的优势或者差异?相对综合来说,最主要的还是实践,澜舟科技一直是坚持技术创新和实践落地双轮驱动的方式,逐渐积累竞争优势。

这样做的好处是能够与客户在一起,不论是金融机构还是其他企业。当我们面向企业场景做落地时,不仅能够跟企业一起基于数据打磨模型,也可以了解模型面向企业真正应用的场景会有哪些不足,持续打磨模型和场景应用。

在数据和应用场景实践方面的积累,我认为是早期入局带来的,到今天也是我们能做到差异化的优势。

暗涌WAVES:李总去年6月也来过Waves大会,过去这一年,澜舟科技发生的最大变化是什么?有没有相对艰难的一些抉择?

李京梅:过去一年发生很多事情,不光是澜舟科技本身。今天大家都说大模型特别卷,这个圈特别卷,这是全方位的。

我们主要面向B端的客户,但B端的客户也都是由普通的人组成,无论是C端、B端。从ChatGPT刚开始出来大家觉得非常惊艳,认为大模型做的事情是无所不能的,期待值特别高。去年下半年开始慢慢趋于理性,大家开始冷静思考大模型到底可以给企业和人带来怎样的价值,有怎样的收益。

在这些思考的过程中,这一年下来,我觉得比较庆幸的是坚持了自己的赛道,就是坚持垂直领域专业赛道。

我们今年更多专注在应用落地,雷军之前有个互联网落地的七字决“专注、极致、口碑、快”。当澜舟科技在服务客户进行大模型落地时,创始人周明提出了九字决,即在七字诀上加上“成本”。

去年大家更多关注大模型本身的能力,今年则会更加关注场景驱动,所谓的场景驱动就是坚信,大模型面向企业落地的时候不是把AGI全部用上,用三个能力就够了:阅读理解、通用写作、多轮对话。

去年我们发布了若干不同尺寸的大模型,包括7B、13B、40B的大模型,消耗不少算力。但经过长期的市场调研发现,我们接触到的80%的企业客户用不上这么大的模型,它所要的场景用不到这么大的模型。企业要考虑成本和性价比,它想做的场景其实用13B相对比较轻量的大模型就够了。

今年在策略上的调整,就是我们会坚持轻量化的大模型,创立之初是孟子轻量化的预训练模型,今天是轻量化的孟子大语言模型,我们也坚持了落地的路径。

如今的场景也比较明确了,面向企业的应用,我们主打落地应用三件套:
  • 澜舟智库:大模型时代面向企业的智能知识库平台。
  • 澜舟智会:专注内容分析的智能会议助手。
  • 澜舟智搭:智能Agent应用搭建工具平台。

我们基于孟子大模型主打应用的三件套,主要面向企业落地,更加聚焦产品化应用场景驱动,我们的大模型也会面向主打的场景定向做优化,不搞大而全,我们坚持小而美。

暗涌WAVES:从B端视角怎么看推理成本降低的影响?

李京梅:分两方面,我出来创业之前在阿里云工作,再之前是在微软,也包括中国本地。很多企业按照token、 API收费,对创业公司影响不大,更多是云厂商的策略。

对云厂商来说,它的规模化只要能够提升,单价成本肯定会降低的,这是从云厂商的算力提供方来说。从使用方来说,其实对很多基于大平台做自己AI应用的,不管是创业者还是其他的企业都是有好处的。虽然看起来好像千token、百万token很便宜,但作为对话和应用调用的时候,这个token量是非常具象化的,是以字/词为单位的。通常你读一篇文章一页word可能上千字,折算下来的量,对应用开发者来说也是一笔可观的费用。

我们主要面向B端,简单的降价对B端的企业或者说对我们面向ToB的大模型创业公司来说没有特别大的影响。因为企业客户重视的是效果第一。B端的客户关注效果,效果对他们来说就是性价比。

从另外一个角度来看,推理成本下降从长远来看一定有意义。澜舟科技面向B端客户主打孟子13B大模型,其实也是基于目前市场企业持有的GPU现状,希望帮助B端的客户整体降成本。尤其是国内企业客户基于数据安全和隐私的考虑,更偏向于做本地化部署。当推理用起来进一步降低到消费级到CPU端侧,对在企业里大面积普及基于大模型的应用肯定是利好的,但重要的还是能看到立竿见影的效果。

暗涌WAVES:那李总觉得AI ToC和ToB的生态里最大的赢家是谁?在新的流量入口的争夺中,大厂和澜舟科技这样的创业公司,各自的机会是什么?

李京梅:没有特别确定的答案。今天为什么说特别卷,以及大家都在做很多尝试,还是没有看到终局,哪怕比较确定的趋势。

从大模型创业公司来说,已经有两个主要的赛道,往AGI方向发展的Minimax等等,这是走大而全的路线,通用人工智能。澜舟科技从去年到今年还是走小而美,更多的是看落地。今天没有一个大模型在企业的任何场景都可以表现最优,所以我们还是得把主控权放在自己的手里。

往下走的话,我们选择的赛道还是落地为王,我们会跟客户在一起。企业也会有超级应用,大模型和数据在一起,大模型自然会跟客户在一起,对B端大模型落地而言,现在说赢家是谁时间还早,我估计年底会看到一些趋势。对ToB来说需要时间,C端更是需要时间。对C端来说需要一些惊艳的产品形态,今天的大模型产品形态,还没有特别能够出挑的,需要让子弹再飞会。

暗涌WAVES:互联网、移动互联网,包括AI四小龙时代,可能给现在的大模型时代带来哪些启发?很多人说不会出现移动互联网时代那种万众创业的局面,你怎么看?

李京梅:之前的AI四小龙主要还是做视觉,感知智能。今天更多讲大语言模型,包括多模态也是文生图和文生视频,这是技术的演进,这跟四小龙在技术时代是不一样的。

今天比较大的挑战,比互联网创业多了两个字,就是成本。对于企业来说需要做到性价比最优。另外来说就是整个中国的市场模式很难收敛成标准的产品形式,更多时候会基于客户的个性化需求去落地,产品形态比较发散,无论是企业,还是政府和金融机构。

今天大语言模型同样有类似的问题,有成本的问题,但还有一个大生态的问题。最近有很多讲中国B端软件市场的观点,我们这种从技术基因出发做创业的,很多时候还是会偏工具平台。工具平台给企业能够带来的价值会是降本增效,直接能够帮助企业客户创收。

澜舟科技已经三周年并即将开始第四年,前面两年偏向于多维度探索市场、技术、客户、资本、媒体等,我们今年相对聚焦做企业应用产品。我们期望可以把相对能够标准化的工具型产品做出来,比如刚才讲的澜舟智搭(智能Agent应用搭建工具平台),能够让企业自助做一些东西,希望在这个方向上探索出对大模型的创业公司跟企业都能够接受的产品形态,从而降低大模型在企业落地的成本。

|查看更多活动资讯点击“阅读原文”

澜舟科技官方网站

https://langboat.com

获奖与新闻

澜舟科技获批北京市专精特新中小企业

澜舟科技完成信通院“可信AI”评估

澜舟科技完成Pre-A+轮融资

HICOOL 2021创业大赛一等奖 | 周明博士专访


最新合作
携手新华智云 | 携手中国联通
携手华夏基金 | 携手同花顺
携手中文在线携手数说故事 
 

技术专栏一览

辅助创作引擎|搜索引擎技术  

自动摘要生成|机器翻译技术  

孟子模型开源|孟子技术解读  

认知智能平台|熊猫小说家  


孟子开源社区微信群

期待您的关注与加入:)

内容中包含的图片若涉及版权问题,请及时与我们联系删除