引言:企业级智能体——从概念到可靠落地的跨越


想象一下,你的办公室里有一位"超级助手"——它能精准理解你的需求,从海量文档中快速找到关键信息,进行复杂计算,甚至还能帮你写报告——这正是智能体技术正在为企业带来的变革。


随着大语言模型(LLM)技术的快速发展,基于LLM的智能体应用正在各行各业加速落地。从财务审计到合同审核,从客户服务到数据分析,智能体正逐步成为企业的"数字员工"。但现实是,企业对智能体的期望不仅是"能用",更要求"好用"、"可信"、"可控"——就像你希望助手不仅会做事,还要做得对、做得快、做得让人放心。


然而,这背后存在多方面的技术挑战:如何让智能体既专业又灵活?如何确保它不会"记错"或"算错"?如何让它适应不同的工作场景?


澜舟科技作为一家专注智能体应用的企业,始终致力于为企业提供开箱即用的智能体解决方案。面对这些挑战,我们持续深耕智能体技术,提出并实现了若干创新技术,帮助企业快速实现智能化转型。



智能体落地的核心挑战



通用型与专用型智能体的两难选择


当前,智能体主要分为通用型和专用型两类,它们就像"全科医生"和"专科医生"的区别。


通用型智能体,对企业应用来说,它部署快、成本低,适用范围广但专业性有限,如同「全科医生」,能处理多种问题却难以应付专业场景。例如,某金融机构在财务审计场景中使用通用型智能体时,当它遇到“递延所得税资产”这种专业术语时,理解容易出现偏差,将重要资产项目错误归类,导致审计报告出现严重错误。


专用型智能体专业性强但成本高昂,如同「专科医生」,效果显著但投入巨大。典型专用智能体项目需3-6个月周期,涵盖数据准备(准备原材料)、模型微调(调试生产线)、Prompt工程(编写操作手册)、系统集成(连接各个车间)等多个环节。当企业面临多场景需求时,传统方案需要为每个场景单独构建系统,成本让人难以承受。


归纳起来,智能体在企业落地面临的核心困境是:场景的多样化与效果的高要求,同研发效率低、系统可扩展性差之间的矛盾。就像企业既想要"专科医生"的专业水平,又想要"全科医生"的适应能力。



技术层面的三大挑战


此外,构建高效、可靠的智能体应用还面临LLM本身存在问题的诸多技术挑战:

  • 幻觉问题:即使是最先进的LLM,也可能生成看似合理但实际错误的内容。例如,在财务报表分析中,智能体可能虚构一个不存在的净利润数据,很容易造成严重的决策风险。

  • 长上下文处理:面对超长文档或多轮对话场景时,模型容易出现信息遗忘、推理链断裂等问题。如同一个“健忘的助手”,导致回答前后矛盾。

  • Prompt的适配性:企业往往需要支持或选择不同尺寸或不同厂商的模型以平衡成本和性能,但同一个prompt在不同模型和不同任务上的表现差异可能会非常巨大。这就像用同一把"钥匙"去开不同的"锁",这给prompt调优带来巨大的工作量,严重影响智能体的构建效率。


澜舟科技的系统化创新解决方案


面对上述挑战,澜舟科技从架构创新、上下文工程、可信计算、自适应优化四个维度提出了系统化解决方案。



架构创新:多智能体协同框架


企业在日常经营中,信息抽取、文档问答、自动审核、智能写作等需求频繁且多样。为满足这些场景的高效落地,我们专门设计并实现了一体化的多智能体协同框架。


这个框架把原本庞杂的智能体功能切分为七个专业独立但紧密协作的单智能体,形成高效协作的“专业团队”,完成企业级的复杂任务:

  • 任务规划智能体(团队"项目经理"):负责整体任务的规划和协调,从不同粒度控制执行智能体的输出。该智能体的输出也可由人工模版替换,就像项目经理可以按照不同的项目模板来制定计划,实现不同业务场景不同任务的精细化控制。

  • 数据获取智能体(团队"资料收集员"):负责多源数据(文件、数据库、API、网页等)的接入、获取、自动转换以及格式的统一。

  • 数据抽取智能体(团队"信息分析师"):从非结构化数据中提取结构化信息,形成统一的标准化数据格式,并针对文本、表格、图像等不同类型进行专门优化。

  • 数据计算智能体(团队"财务专家"):执行复杂的计算任务,支持多步推理、计算验证和结果校验,确保计算过程和结果的完全可信。

  • 数据生成智能体(团队"文案写手"):基于输入数据和任务要求生成目标要素或内容,支持文本生成、表格生成、图表绘制等。

  • 数据展示智能体(团队"设计师"):将处理结果转化为用户友好的呈现形式,支持HTML、PDF、Markdown、PPT等展示能力。

  • 数据存储智能体(团队"档案管理员"):管理知识库、记忆系统和中间结果,提供高效的数据存储和检索能力。


澜舟智搭多智能体框架应用搭建示例


澜舟智搭是澜舟科技精心打造的企业智能Agent应用搭建工具平台,可以通过流程化、组件化、智能化的方式帮助企业快速搭建符合业务场景的智能体。


为实现高效协同,我们建立了统一的数据交互格式和标准通信协议,就像团队使用统一的"工作语言"和"交接标准"。每个智能体都能按需接收和处理自己的任务,任务之间通过标准化数据格式进行信息传递和共享,就像团队成员之间用统一的表格和格式来交接工作,确保了多智能体之间的解耦运行和高效协同。


我们在每个智能体上都实现了独立的并发处理能力,让每个智能体成员能够同时、快速地响应和处理多个任务,大幅提升了搭建效率和应用响应速度。


以某金融公司为例,借助这套框架,可在一周内高质量地搭建和上线个股分析智能体,而过去完成同样工作大约需要两个月,整体效率提升达8倍。


某金融公司个股分析报告



上下文工程:层次化感知与记忆强化


上下文质量直接决定智能体输出效果的上限,合理策划和管理上下文是智能体成败的关键。如果把智能体比作一位助手,那么上下文工程就是给他装上一个"超级大脑",让他不仅能记住重要信息,还能理解信息之间的关系,甚至能"穿越时间"记住不同时期的关键内容。


结合高频的实际场景,我们为企业客户提供了一套系统化的上下文工程解决方案:


多层次主题增强检索:全局与局部协同提升资料检索完整性和精确性


在实际知识切片和检索过程中,“长文档找不到头绪、专业细节容易遗漏”常常让问答系统陷入尴尬,针对此类问题,我们提出了“全局+局部”信息增强策略进行优化。


  • 全局信息增强:系统对长文档先进行结构梳理,自动提取章节目录、主题脉络,并把这些全局视图嵌入每一条知识分片。比如公司年报分析时,系统会把“第二章 财务概况”“第三章 风险提示”等信息加入到切片的元数据。这样,当用户像CFO一样问“公司2023年度的主营业务收入和风险因素主要有哪些变化?”,系统能够跨章节检索和整合两大主题下的全部相关信息,输出全局综述,而不是“片段式回答”。

  • 局部信息增强:系统会对文本块进行实体识别与指代消解(明确“该公司”等指称对象),补充专业术语注释(如遇“ROE”,自动补全为“净资产收益率”并加注说明),同时优化表格解析(将原始表格数据统一转换为key-value结构,便于进一步计算和推理)。例如,当用户询问“去年三季度某公司资产负债率高吗?哪些应收账款未回收?”时,系统能够更准确地定位并匹配原始答案,从而为用户提供更加精准的回答。


时间感知的记忆管理:就像给助手装上"时间机器"


在企业的实际场景中,信息通常具有明显的时效性特征。我们开发的时间感知记忆系统能够自动识别对话中的时间表达(绝对时间、相对时间、模糊时间),实现针对对话历史的基于时间相关性进行智能检索和过滤能力,从而具备自动过滤过期信息并构建事件时间线的能力。针对超长对话场景,我们采用循环摘要技术和滑动窗口机制动态维护最相关的上下文,确保智能体始终聚焦当前任务的核心信息并减少token消耗。


实际效果:这套上下文工程体系使我们提供的智能体服务具备了准确获取外部知识、保持长期记忆、维持对话连贯性的能力,为高质量的任务执行奠定了基础。在某金融公司的智能客服项目中,应用该项技术,我们将长对话的回答准确率提升了45%,同时token消耗降低了55%,就像给助手装上了"超级大脑",既更聪明又更省电。



可信计算:过程可控和全要素链式溯源


在金融、政务等关键领域,智能体的可信性和可解释性至关重要。想象这样的场景:智能体告诉你"公司净利润为5000万元",但你心里会想:"这个数字是怎么算出来的?原始数据是什么?计算过程有没有错误?"如果无法回答这些问题,就像让一个会计师做账却不留凭证,出了问题谁也说不清楚。


我们为企业客户提供了覆盖数据、计算和多模态的全链路溯源能力,就像给智能体装上了一套完整的"审计系统",让每一个结果都有据可查、有源可溯。


计算溯源:让"黑盒"变成"透明盒"


LLM生成的计算结果对用户来说往往是"黑盒"的,用户无法验证其正确性,就像看到一个计算结果,但不知道是怎么算出来的。传统的溯源方案仅能针对信息重组类的场景,对于复杂的计算任务就无能为力了。


基于此,我们开发了计算粒度的溯源技术,通过三项核心技术,实现计算代码生成、计算过程执行的完全可信和完整记录:


  • 键值分离:将参数名和参数值进行分离,让LLM仅基于参数名生成计算代码。就像让会计师先列出"需要哪些数据"(参数名),然后再填入具体数值(参数值),这样生成的公式更准确、更可验证。

  • 数值追踪:记录每个数值的来源和计算步骤。就像会计做账时,每一笔数字都要标注"来自哪张凭证、经过哪些计算步骤",形成完整的计算链条。

  • 表达式提取:将自然语言生成的计算过程代码转化为用户可理解的数学表达式。就像把复杂的程序代码转换成"净利润 = 营业收入 - 营业成本 - 税费"这样的数学公式,让非技术人员也能看懂。


某金融公司尽调报告分析过程


数据溯源:给每条数据贴上"身份证"


自动为每条数据打上来源标签(文件名、页码、时间戳等元信息),记录数据的衍生关系(哪些结果是基于哪些原始数据计算得到的),当用户对某个数据有疑问时,可以一路追溯到原始文档的具体位置。


就像图书馆的每本书都有"索书号",我们的数据溯源系统给每条数据都贴上了"身份证":它来自哪个文件、第几页、什么时候提取的、经过了哪些处理……当用户对某个数据有疑问时,就像查案一样,可以一路追溯到"案发现场"——原始文档的具体位置。


视觉溯源:让"看图说话"也有据可查


针对多模态场景,标注从图像中提取信息的具体像素区域,OCR识别结果关联到原图中的精确位置,表格和图表中提取的数据可回溯到原图,完整记录多模态推理链(图像→文本→结构化数据→计算结果)。这使得视觉分析过程也变得可验证、可审计。


我们的视觉溯源系统会在图像上标注"这里提取了什么信息",让"看图说话"的过程也变得可验证。

某金融公司合同审核场景


实际效果:全链路溯源实现了从原始数据到最终结果的完全透明化,使我们提供的智能体服务从"信不信由你"变成了"证据确凿",满足了企业级应用对可信性、可审计性和可解释性的严格要求。在某金融公司的尽调报告写作的场景中,准确率提升了36%,更重要的是,用户对结果的信任度大幅提升,就像从"听天由命"变成了"有据可查"。



自适应优化:双维度动态进化机制


Prompt工程是智能体开发中最耗时、最依赖经验的环节。智能体开发者需要根据不同的模型和任务来调整prompt。传统的人工调优方式效率低、成本高、难以规模化。


我们为企业客户提供了双维度自适应优化机制,能够根据不同的模型和任务自动找到最优配置。


模型维度自适应:为每个模型找到"专属方案"


针对企业需要支持多个LLM的需求,我们开发了模型自适应技术。系统基于少量标注样本每次自动生成多组候选prompt,在各个目标模型上并行评测和自动优化,并不断迭代候选prompt集合,直到最终为每个模型生成最优prompt。


任务维度自适应:为每个任务找到"专属操作手册"


同一个场景中往往包含多种类型的任务。例如,文档分析场景中有信息提取、数值计算、内容总结、趋势分析等不同任务。就像同一个工厂里有不同的生产线,每条生产线需要不同的操作手册。


我们通过对任务样本的自动聚类,识别出任务的类型特征,建立"任务特征→最优prompt"的映射知识库。运行时,系统自动识别当前任务类型,从prompt库中选择最合适的prompt模板。


双维度协同优化:打造"模型×任务"的智能匹配系统


两个维度并非独立,而是协同形成"模型 × 任务"二维优化空间。系统会学习到"模型A适合处理任务类型1,模型B适合处理任务类型2"这样的复合知识,实现模型和prompt的联合选择。


该项技术分别在AIME、MATH500评测集的准确率分别提升26%、21%,就像给智能体装上了"自动调音系统",让它能在不同场景下都发挥最佳性能。



总结与展望


从"能用"到"好用":智能体技术的价值正在显现


作为一家专注在ToB领域的领先智能体公司,我们从架构创新、上下文工程、可信溯源、自适应优化四个维度构建了系统化的平台化能力,有效解决了企业在智能体应用中在架构、数据、可信和优化层面的核心挑战。


就像从"能用手机"到"用好手机"需要更好的操作系统、更智能的助手、更安全的隐私保护、更流畅的体验优化,智能体技术也在经历从"能用"到"好用"的进化过程。


三个关键原则:让智能体真正为企业创造价值


在为企业客户提供智能体服务的实践中,我们总结出三个关键原则:


系统化思维:不是"单打独斗",而是"团队协作"


智能体服务不是单一技术的堆砌,而是架构、算法、工程的系统性融合。就像建造一座大楼,不是简单地把砖块堆起来,而是需要从地基、结构、水电、装修等各个维度系统规划。我们从全局视角设计技术方案,为客户提供端到端的完整服务。就像我们不会只给客户一个"计算器",而是提供一套完整的"财务分析系统",包括数据获取、计算、验证、展示等全流程能力。


可信为基:让企业"敢用"、"放心用"


企业级服务的核心是信任。我们通过可解释性和可追溯性技术,让客户对服务结果充分信任,推动业务深度采纳。就像给每个结果都装上了"GPS定位"和"审计报告",让企业从"试试看"变成"放心用",从"辅助工具"变成"核心系统"。


持续进化:让智能体"越用越聪明"


我们提供的智能体服务具备自适应和自优化能力,能够随着客户数据积累、场景变化、模型升级而持续改进,为客户创造长期价值。就像一位经验丰富的员工,工作越久、经验越丰富、效率越高,我们的智能体也会随着使用而不断优化。客户不需要担心"系统过时",因为系统会自己"学习成长"。


未来,智能体将成为企业的"数字大脑"


为企业提供高质量的智能体服务是一场持久战,需要算法创新、工程积累、业务洞察的长期融合。我们构建的系统化服务能力只是一个开始,未来还有更多的技术挑战需要攻克,更多的应用场景需要探索。


想象一下未来的工作场景:

  • 财务部门:智能体自动分析财务报表,生成审计报告,准确率接近100%,还能追溯每个数据的来源

  • 法务部门:智能体自动审核合同,识别风险条款,标注关键信息,就像一位24小时在线的法律顾问

  • 客服部门:智能体处理客户咨询,理解上下文,记住历史对话,就像一位永远不会忘记客户信息的客服专家

  • 研发部门:智能体分析技术文档,提取关键信息,生成技术报告,就像一位经验丰富的技术专家


我们坚信,通过持续的技术创新和服务实践,从"能用"到"好用",从"试点"到"规模化",从"辅助"到"主导",智能体必将在更广泛的行业和场景中发挥更大价值,成为推动企业智能化升级的核心驱动力。


我们期待与更多的企业客户和合作伙伴一起,共同推动智能体技术的发展和应用,为企业创造更大的商业价值,为社会创造更大的智能化红利。


扫码体验澜舟智搭👇


商务洽谈👇

往期文章推荐


澜舟科技官方网站

https://langboat.com

获奖与新闻

祝贺|澜舟科技荣获“2025年度中关村科学城人工智能全景赋能典型案例”

新品发布|澜舟智能助手:高效管理知识,精准搜索问答

澜舟智会再升级|企业用户与专业人士的智能会议助手

热烈祝贺|澜舟科技荣获北京市“2023第三季度专精特新中小企业”认定

HICOOL 2021创业大赛一等奖 | 周明博士专访


 

技术专栏一览

tDRO:面向大模型稠密检索的任务级分布鲁棒优化

澜舟科技新突破:大模型实现“持续学习”

澜舟智库AI文档辅助写作

孟子3-8B开源孟子3-13B开源


澜舟科技公众号
图片

期待您的关注:)

内容中包含的图片若涉及版权问题,请及时与我们联系删除