梁正教授参加清华大学第43期文科沙龙并就智能体风险与治理展开跨学科对话

2026年6月5日，清华大学文科沙龙第43期“智能体：风险与治理”在清华大学教师发展中心举办。清华大学公共管理学院教授、清华大学人工智能国际治理研究院副院长梁正，清华大学新闻与传播学院副教授陈慧敏，Microsoft AI Asia首席应用科学与软件研发总监魏思宁应邀参与讨论，清华大学公共管理学院副教授、清华大学科技发展与治理研究中心主任助理陈天昊担任主持。

当人工智能不再止步于对答如流，而是开始自主调用工具、规划步骤、执行任务，一个能够感知、推理并行动的新主体，正悄然嵌入人类的工作与生活。从“会说”到“会做”，智能体（AI Agent）被普遍视为继生成式人工智能之后的又一次跃迁，它在许诺巨大潜力的同时，也抛出了尖锐的诘问：当机器可以“代我行事”，我们该如何驾驭这个未必可控的新主体？围绕这一关切，来自公共治理、信息技术、新闻传播与产业一线的四位对谈者，就智能体的能力边界、潜在风险与治理路径展开交流，试图在技术疾驰的当下，为智能时代的风险与治理厘清思路。

图丨沙龙现场（从左至右依次为：陈天昊、梁正、陈慧敏、魏思宁）

界定之辨：智能体何以为“体”

何为智能体？它与人们熟悉的对话机器人究竟区别何在，又走到了哪一步？探明它“新”在何处，构成了本场讨论的起点。

魏思宁从技术构成入手，勾勒出智能体的轮廓。在他看来，相比一问一答的对话机器人，智能体是一次实打实的升级。它具备更强的规划能力，拥有可调取的长短期记忆，能借助工具与外部世界沟通，尤其在 MCP 协议出现后，它甚至可以触及物理世界的诸多环节。更为关键的是，智能体已经展现出一定的自我反思与修正能力。得益于以上特性，智能体已经可以摆脱短平快的即时问答，转而执行那些耗时数小时乃至一整天的长程任务。

陈天昊则以亲历者的感受呼应这一判断。从围棋到对话，再到如今大量工作交由 AI 完成，他坦言对机器能力边界的一再被刷新深有体会。也正因智能体已能独立完成如此之多的任务，他特别强调了一个关键概念——“人在回路”（Human-in-the-Loop）：无论智能体多么能干，最终的把关与判断，仍需由人来完成。

图丨梁正在沙龙现场

梁正为这场界定提供了更具历史纵深的坐标。他援引 OpenAI 对人工智能演化阶段的判断指出，从对话机器人到推理者，再到能够行动的智能体，乃至自主发现知识的创新者与统筹全局的组织者，是一条层层递进、能力叠加的路径。智能体的特别之处，正在于它在感知、理解、推理之上又增添了“执行”一环。需要注意的是，智能体绝不止于软件操作一种形态，自动驾驶汽车、机器人这类具身智能体同样拥有大脑与执行器，影响或许更为深远。在他看来，这意味着一类“类人”的新主体正在成为社会运行中不可或缺的一员，人与它的关系也将被重新定义。

风险之网：当系统性风险变得不可逆

潜力有多大，风险便有多深。当智能体从动口转向动手，它的失误就不再止于言语，而可能径直显形为现实中的后果。这些后果究竟从何而来，又为何如此棘手？

梁正首先把矛头指向权责的归属。在他看来，智能体最致命的软肋不在于完成任务的质量高低，而在于它纵然铸成大错，也无力为自己的行为负责。他举了一桩广为人知的案例，某航空公司的智能客服信誓旦旦地向旅客承诺了一项并不存在的折扣，事后买单的却只能是提供服务的企业。令人忧心的是，类似的幻觉至今无法根除，而在环环相扣的长程任务中，出错的概率还会逐级攀升。正因如此，梁正坚持必须由人牢牢握住最终的决策权。这就好比千军万马之中，参谋可以献策无数，真正下定决心的却唯有统帅一人，尤其在高风险的场景里，这道关口断不能轻易让渡。

图丨陈慧敏在沙龙现场

陈慧敏则从技术维度层层剖开风险的来源。她分析道，智能体既然以大模型为根基，那么前代生成式人工智能固有的症结便一并承袭下来，只是过去至多是说错话，如今却可能直接酿成错误的行动。更为棘手的是，调用工具与交互环境这两项新本领又创造了新的风险敞口——被恶意设计的工具可能中途罢工，庞杂的网络信息里也潜伏着提示注入等陷阱。这些隐患还会彼此勾连、级联放大，最终在愈发复杂的系统中凝结为难以拆解的风险。一旦它闯入高价值且不可逆的领域，无论事关国家安全还是人身与财产，后果都将难有回旋余地。

魏思宁进而补充了来自产业一线的观察。他注意到，智能体正悄然撼动既有的商业格局，那些手握核心数据的企业为筑牢护城河，往往对外部智能体严加设防，平台之间的壁垒因此愈发森严。与被动等待他人颠覆相比，一些嗅觉敏锐的公司索性主动求变，把自身改造为智能体可以直接调用的形态，抢先卡位新生态。不过他也直言，这条路是否走得通，终究取决于企业自身的技术底气，根基不牢者贸然转身，很可能反为他人作了嫁衣。

陈天昊则将目光投向中国互联网的竞争格局。他指出，国内各大平台大多将自身积累的数据视为核心资产，彼此之间相对独立，形成了各具边界的生态体系。这一格局有其形成的现实缘由，却也使得智能体在跨平台调取信息时面临天然的限制。在不少场景中，用户仍需借助多个渠道交叉核验，某种程度上正反映出平台数据尚未充分向智能体开放的现状。在他看来，智能体的能力究竟能在多大范围内施展，不仅取决于技术本身的成熟度，也与它所嵌入的产业生态和数据环境密切相关。

治理之道：从军备竞赛到以人为本

风险既已浮现，如何驾驭便成了绕不开的课题。既然技术本身尚无法做到万无一失，制度与人又该在何处接续把关？

图丨魏思宁在沙龙现场

梁正则把视野抬升到全球治理的高度。他提醒，当前沿模型强大到足以发现人类多年未能察觉的漏洞，其影响早已溢出单一企业的边界，逼近一种关乎人类生存的公共风险。面对这样的挑战，任何一方独善其身都无济于事，唯有各国坐到一起，才不至于集体陷入彼此猜忌的囚徒困境。他主张分而治之，安全议题需要各国共同设定底线，发展议题则应纳入更具包容性的多边框架，让能力欠缺的国家也能借助人工智能发挥自身所长。在他看来，与其卷入消耗彼此的军备竞赛，不如回到以人为本的初心，使技术的福祉惠及包括弱势群体在内的全体人类。

陈慧敏从研发者的角度给予呼应。她认为，理想的治理应当是一种贯穿全过程的协同，链条上的每一个主体都责无旁贷。模型开发企业要守好内外两重安全，平台方需对可调用的工具严加甄别，工具的提供者同样要为自身可能埋下的隐患负责。她进一步建议，审计不能全然交由相关方自查自纠，还应引入独立的第三方加以监督。在她看来，技术研发从不只是技术本身的事，越是深度嵌入社会的智能技术，越需要与所处的社会语境、制度与文化彼此校准，做到真正意义上的社会对齐。

陈天昊则从监管实践的层面收束了这场讨论。他谈到，产业界固然身处一线、最具治理的能力，却往往需要外部的激励才能真正释放动力，而国家监管恰可在其间扮演压实主体责任的角色。在他的观察里，从研发者到部署者，再到服务提供者，各环节的主体责任正被逐一厘清，相关服务上线前的备案要求也已成为制度常态。他也期待，这套兼顾驾驭与透明的治理思路，能够为更多国家的探索提供可资参考的经验。

图丨陈天昊在沙龙现场

供稿 | 董琦圆

“

点击下方名片 关注清华文科