
2024年被视为AI大模型落地应用元年,澜舟科技凭借孟子大模型的前瞻性技术,正积极推动这一领域的商业化落地。澜舟科技合伙人、联席CEO李京梅在AI Talk专访中,深入剖析了当前AI大模型面临的挑战,分享了澜舟科技孟子大模型的核心优势,以及推动技术和商业化持续演进、积极拥抱行业生态的策略。
澜舟科技由前微软亚洲研究院副院长、NLP领军人物周明博士于2021年创立,致力于自主研发大模型技术及其行业应用。李京梅,曾在微软和阿里云担任要职,拥有丰富的云计算、大数据、人工智能和城市大脑等领域的产品和解决方案经验。

李京梅表示,在实际应用中,大模型仍需面对行业适配、成本、幻觉现象以及数据安全等多重挑战。对此澜舟科技以孟子大模型为基石,积极推进技术与业务双驱动,推动大模型商业化落地的持续演进。
近日,澜舟智库上线,标志着澜舟科技在“一横N纵”AI原生应用架构上取得了重要突破。这一企业超级应用平台融合了智能AI搜索、知识库问答以及AI辅助写作等功能,为企业提供了一站式、端到端的大模型智能知识库平台,彰显了澜舟科技在AI大模型领域的创新能力。
如下为精彩访谈(经整理):
01
投身AI 大模型领域,迎接更多不确定性

《AI Talk》:从微软、阿里云,到澜舟科技合伙人、联席CEO,您为什选择创业,在AI领域看到了哪些机会?
李京梅:北大毕业后,我赴美留学并入职微软。出于对中国科技进步及市场潜力的关注,我决定从美国微软调任至中国。自2010年起,我在微软中国深度参与了云计算推广、大数据智慧城市及AI云端产品开发等项目。这段经历让我深切感受到中国市场的发展潜力,并与本土市场建立了紧密联系。
之后,我加入阿里云,投身城市大脑以及计算平台事业部的产品解决方案。随着阿里云业务走向集约化和规模化,我发现难以专注于某一产品或技术领域。所以我更希望聚焦于一个具体的领域。此时,澜舟科技公司正处于初创阶段,创始人周明老师正在寻找产品合伙人,我们在微软有过紧密的业务合作,为我们的合作奠定了基础。基于这些考虑,我决定寻找一个具有深度和挑战性的领域,因此选择了人工智能赛道。
2021年加入澜舟科技时,尽管AI的语音和视觉技术已较为成熟,但AI在理解和思考上的挑战仍待解决。我希望专注于更细分的市场,挑战创新孵化和落地实施。适逢AI 大模型时代,创业虽挑战重重,但能亲历并推动这一时代进步,我深感荣幸。

我的职业轨迹是从一个相对成熟和稳定的阶段,逐步转向更具挑战性、不确定性的领域。每一步,我都主动选择向更不确定的领域迈进,也是我所期望的成长方式。
02
大模型商业化落地,要考量成本和收益

《AI Talk》:2023年大模型迅速涌现,而今年大模型技术逐步走向商业化探索,如何看这一现象?AI应用落地要关注什么?
李京梅:2023年是中国AI领域的里程碑,企业相继涌入大模型赛道,我们发布了孟子大模型,也与李开复老师联合发布了AI 2.0趋势报告,行业进入了“百模大战”、“千模大战”的阶段。
上半年,市场狂热,投资活跃,客户对大模型的能力从过度期望到逐渐认识到其局限,如幻觉问题和高成本。到了下半年,追求技术创新和落地应用的客户开始明确需求并启动项目,标志着AI应用从理论转向实操。
但从落地场景或应用来讲,尚不清晰,更多的是能力建设。今年大家狂热的状态都趋于理性化,很多落地技术方案也更加明确,检索增强、向量检索等技术也呈现出被加倍关注的趋势。但如何匹配产品市场与大模型技术以及成本问题,仍是挑战。
2024年是AI落地元年,这一观点已在投资圈、应用客户、媒体以及大模型创业公司和大型科技企业圈层达成共识。大家更加关注AI技术的实际应用和落地。目前来看,创业公司在产品市场匹配度(PMF,Product Market Fit)方面还面临挑战。
澜舟科技有一个考量,今天即使大模型能够干很多的事情。但成本是否能够支撑?创始人周明老师强调,互联网时代的成功要素“专注、极致、口碑、快”——在大模型落地时代需要加上“成本”这一考量。
近期厂商大降价,降价幅度高达80%-90%,甚至提供免费接口。但降价并不能直接促进大模型应用落地。因为通用模型对于专注TOB业务的我们,难以直接转化为企业价值。低成本或免费并不能直接提升ROI,关键在于大模型如何融入业务并带来效益。因此,我们专注为企业客户定制孟子大模型,以满足特定场景需求,实现客户期望的价值获取。
《AI Talk》:大模型时代未来3~5年的发展趋势?企业如何应对挑战?大模型的能力上限是什么?
李京梅:大模型时代,预测未来3-5年趋势很难。大模型创业公司更多要有与时俱进的心态,双向奔赴跟客户跟市场在一起。
大模型的训练既依赖庞大数据量,更看重数据质量。我们认识到,即便token数量达到千亿甚至万亿,实际应用场景的效果还是更依赖数据的质量。今年,我们将着力推进大模型在特定场景中的落地应用。缺乏明确目标和场景,大模型难以发挥真正价值。
当前,据称全球大模型的投入产出比仅3%,可衡量收益有限,这是全球性的挑战。我们需要深入探索大模型如何为企业带来实际效益。
技术趋势引人注目,大模型的能力上限仍然充满想象,我们都在好奇,大模型能力的天花板究竟在何处?GPT-4o等技术突破不断刷新我们的认知与期待,为行业注入持续的创新活力。
03
“澜舟‘一横N纵’战略,聚集场景应用落地”

《AI Talk》:作为较早推动大模型技术商业化落地的企业,澜舟科技是如何做的?
李京梅:今年,澜舟科技主打“一横N纵”战略,即实现模型与应用一体化,通过聚焦不同应用方向和场景的探索来驱动模型能力提升。“一横”代表孟子大模型的横向技术阵列,“N纵”则是基于孟子大模型的N个能力型的应用产品。

3月基于孟子大模型发布了澜舟原子能力型产品,如文档解析、搜索和写作等,供企业自由组合,实现多样化场景。经过一年实践,我们发现80%以上的客户需求,孟子3-13B模型都能满足。因此从应用落地角度,我们将主打孟子13B模型。
聚焦场景应用,我们推出了两款以企业需求为核心的产品。其中,澜舟智会作为一款专注内容分析的智能会议助手,已经在去年成功上线。澜舟智库,则是大模型时代的企业智能知识库平台,它结合了澜舟AI搜索技术,为大模型加搜索技术提供了全新的知识库解决方案。
澜舟智库定位为AI2.0时代的企业必备知识库,适用于各行各业。对于基金、券商等金融客户,它可化身为智能投研的得力助手;对于一般企业,它能助力通用办公场景的高效运转;对于专业客户,它更是客户服务中不可或缺的专业知识库,为座席人员提供全面的设备、产品等相关知识支持。这两款产品都是基于我们的孟子大语言模型精心打造的。
04
“坚持技术和应用双轮驱动,积累竞争优势”

《AI Talk》:今年,很多企业从业务场景出发,亲自下场做垂直大模型、企业大模型,这种趋势之下,澜舟科技的竞争力是什么?
李京梅:大模型技术门槛较高,尽管很多人认为,开源技术和API调用降低了门槛,但实操层面并不理想,技术通用性和易用性尚未降低到初级IT工程师能够驾驭的程度。
以开源大模型为例,当算法工程师按需求训练模型时,难点在于平衡模型的通用性与专业领域能力。实践中我们常用“烹饪美食”作类比,以食材配方比来比喻。为提升模型在垂直领域的表现,我们可能加入特定领域的数据,但过度强调专业领域数据会导致模型通用能力下降,产生“捡了芝麻丢了西瓜”的现象。这种“配方比”的调整并非简单的数字量化,是复杂的综合问题。
OpenAI的核心技术难以复现。人们认为其中的难度可能与数据配比有关,同时训练过程也需要丰富的经验和精湛的技巧来掌控。这不是一个可以完全量化、步骤化的过程,涉及数据配比和训练过程的精准把握。并非任何初级IT工程师都能利用通用或开源的大型模型来适应特定的应用场景。
AI对于技术实施和实现特定场景的要求依然较高,这是AI领域发展的壁垒。我们的优势源于不断的投入与积累。澜舟科技2021年创立以来,就依托创始人周明老师在自然语言处理领域的深厚背景,投身预训练模型的深入研发。我们的预训练模型不局限于单一任务,更具灵活性和可扩展性。

我们始终做技术的演进,前瞻技术的研究,并持续做技术与商业化双驱动的落地,这是我们丰富的实践经验积累。
05
“专注所擅长的AI领域,积极拥抱大生态”

《AI Talk》:生态位非常重要,澜舟科技在人工智能及大模型时代的生态链中,怎么定位自己?
李京梅:我们的产业链定位明确——在人工智能及大模型时代的生态链中,上游聚焦基础设施与算力,中游集中在算法与模型,下游则面向各行业应用,我们专注中游算法模型和下游行业应用。
在行业选择和应用上,我们专注擅长的领域。在生态策略上,我们以兼容和敏捷的态度拥抱整个开源环境,不依赖于特定的服务器、云服务商或芯片供应商。比如除了英伟达,我们积极适配华为910B产品,迅速响应客户需求和市场变化。
在模型层面,我们与零一万物战略合作,共同推动生态繁荣。虽然我们不直接开发千亿级大模型或多模态大模型,但会根据客户需求,结合其他大模型与我们的应用技术,推进项目成功落地。
此外,我们高度重视与传统IT厂商的合作,双方优势互补——他们对业务领域有深刻理解,而我们则拥有强大的模型和技术实力。同时,我们积极参与各大厂的生态计划,如阿里、火山以及华为等,以积极主动的姿态拥抱整个大生态体系。
06
“AI时代,唯有情感和创意无法被替代”

《AI Talk》:人工智能对企业和个人影响深远,冲击与机会并存,如何应对这一变革?
李京梅:我们必须持续学习和与时俱进。身处AI时代,每个人都应积极拥抱变革,能够亲历并见证这一时代巨变,是一件很兴奋的事情。
那些工作内容重复、规律性强的岗位,可能面临被大模型或AI技术替代的风险。以机器翻译为例,基于AI和大模型的翻译已能高效完成约90%的翻译任务。即便是在专业要求高的同声传译领域,机器翻译仍有空间。我在美国多年的生活与工作经历让我深切体会到机器翻译的高效与优质。这证明了大语言模型及NLP技术的成熟度,机器翻译已成为众多场景中的佼佼者,很多时候几乎无需人工干预。
AI大模型时代,我们个人应提前规划,转向需要人机互动、提供温情服务或富有创意的工作,这些工作在可预见的未来难很难被大模型替代。
点击👇查看专访视频
”
澜舟科技官方网站
获奖与新闻
澜舟科技完成信通院“可信AI”评估
澜舟科技完成Pre-A+轮融资
HICOOL 2021创业大赛一等奖 | 周明博士专访
技术专栏一览

期待您的关注与加入:)
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢