文科沙龙嘉宾观点 | 梁正：不竞于器，而归于人

点击蓝字

关注我们

在谈论智能体的种种风险与治理时，梁正始终秉持一个清晰的信念：与其卷入彼此消耗的军备竞赛，不如让技术回到以人为本的初心，使它的福祉惠及每一个人。在他看来，人工智能再怎样突飞猛进，真正值得关注的从来不是它比人强多少，而是它会不会、以及如何归于人、服务于人。正是带着这样的关切，他从智能体的来路谈起，一路延伸至责任、就业、全球治理，最终落回到治理本身该如何前行。

图 | 沙龙现场（从左到右依次为：陈天昊、梁正、陈慧敏、魏思宁）

要理解智能体，梁正主张先把它放回人工智能演化的长链条里。他援引 OpenAI 对这一进程的判断指出，从能够对话的聊天机器人（Chatbot），到具备思维链的推理者（Reasoner），再到可以付诸行动的智能体（Agent），乃至自主发现知识的创新者（Innovator）与统筹全局的组织者（Organizer），是一条层层递进、能力不断叠加的阶梯。在他看来，智能体之所以构成关键的一跃，正在于它在感知、理解与推理之上，又增添了“执行”这一环节，从而使其不再止于建言，而是能够自己动手。

梁正提醒道，这条阶梯并不止于屏幕之内。除了人们熟悉的软件操作型智能体，自动驾驶汽车、机器人这类具身智能体同样拥有可供决策的大脑与付诸行动的执行器，它们与物理世界的深度交互，影响或许更为深远。同时，不仅智能体的边界在拓宽，其演化的节奏也快得惊人。早在数年前，Open AI CEO奥特曼便已预言，宇宙中智能体的数量约每六个月便会翻上一倍。回望这两三年的迅猛演进，这一近乎指数的节奏，的确并非虚言。

沿着这条阶梯望去，梁正得出了一个超越技术层面的判断。在他看来，智能体的步步进阶，意味着一种“类人”的新主体正在生成，并逐渐成为社会运行中不可或缺的一员。它不再只是供人差遣的工具，而开始以某种主体的姿态嵌入人类的生产与生活，人与技术之间的关系，也将因此被彻底重塑。而这一重塑，恰是此后所有治理之问的起点。

如果说新主体的生成是一切问题的起点，那么梁正最先追问的，便是责任。在他看来，智能体最深的隐忧并不在于它把事情做得好不好，而在于一个更根本的悖论——它能够行动，却无力为自己的行为负责。他举例道，某家航空公司的智能客服信誓旦旦地向旅客许诺了一项根本不存在的折扣，可当争议出现，买单的终究只能是它背后的企业。机器酿成了差错，账却要算到人的头上。更棘手的是，这类幻觉至今无法被根除，而在环环相扣的长程任务里，出错的概率还会随步骤逐级累积，后果因此愈发难以预料。

正因如此，梁正坚持，无论智能体多么能干，最终的决策权都必须牢牢握在人的手中。他打了一个形象的比方，千军万马之中，献策的参谋可以有许多，但真正下定决心、为成败担责的，只能是统帅一人。智能体或许能提供周全的备选方案，却读不懂决策者真正的意图，也无从承担抉择的后果。在那些一旦失手便难以挽回的高风险场景中，这一道决断的关口尤其不能轻易让渡。究竟授予智能体多大的权限、放手到哪一步，都需要极为审慎的思量。

这种对人类控制权的坚持，在技术尚不足恃时显得格外要紧。梁正以自动驾驶为例指出，在L3级别的人车混合驾驶阶段，一旦发生事故，责任究竟归于驾驶者还是系统，至今难以划清。这道难题之棘手，甚至让一些企业宁愿绕开它、直接迈向更高级别的全自动驾驶。在他看来，当技术本身还无法自证可靠，制度便必须挺身补位，通过明晰的权责安排，把人的控制权稳稳保留下来。因此，智能体时代的权责重构，是治理绕不过去的第一道关。

图 | 梁正在沙龙现场

权责之外，就业是智能体落地后另一备受关注的议题。梁正坦言，冲击是真实的，而首当其冲的，往往是那些初级、入门的岗位。律师手中繁复的文书、金融分析师的报表、初级咨询师的案头工作，这些可被清晰界定、按部就班完成的任务，正是 AI 最易接手的部分。更值得警惕的是，由于智能体能够横跨数十个行业调取并关联知识，做出连资深从业者也未必能够想到的方案，因此，即便是经验丰富者，也未必能置身事外。

然而，梁正并不因此悲观。在他看来，真正会消失的，与其说是工作，不如说是工作中那些可被替代的部分，而岗位的价值则在悄然向别处转移。他在调研中观察到，在不少企业里，原本埋头写代码的工程师正逐渐走向客户，因为比起技术本身，读懂真实需求的能力更为稀缺。由此，他提出一个建设性的观点，与其纠结于是否会被取代，不如想清楚在自己这一行里，人究竟有哪些是机器无法替代的核心价值。看清了这一点，焦虑便失去了根基。

循此向前，梁正描绘了一幅乐观的图景。在他设想的智能体经济中，每个人身边都将环绕成百上千个各司其职的智能助手，代为打理琐碎而重复的事务。人因此得以从冗杂的事务中抽身，将精力交还给那些真正属于人的事情。他提及某地社区基层工作者的体会，在用上智能工具之后，他们最大的变化是不必再困于填表，而能腾出时间走入居民之中，倾听其真实诉求。在梁正看来，这正是技术应有的意义：把人从工具理性的长久束缚中解放出来，使人重新回归为人。

与尚且局限于一国之内的就业冲击不同，智能体带来的另一重风险，已然溢出任何单一主体所能掌控的边界。梁正注意到，当下最前沿的模型已强大到能够发现人类多年未曾察觉的系统漏洞，这种能力一旦失于约束，其影响便不再囿于某家企业或某个国家，而会蔓延为一种关乎人类整体存续的公共风险。面对这样的威胁，任何一方都难以独善其身。

正因风险为全球所共担，梁正主张各国必须坐到同一张谈判桌前。他提到近来发布的多项国际安全倡议，认为唯有携手应对，各国才不至于陷入彼此猜忌的集体困境。在他看来，与其将资源耗费在一场没有赢家的军备竞赛上，不如转向真正意义上的协作，这也正是“不竞于器”的题中之义。

然而，共识的达成远比想象中艰难，症结之一在于各国所处的治理境况落差。梁正提出“分而治之”的思路，认为安全议题需要各国共同划定底线，发展议题则应纳入更具包容性的多边框架。但他坦言，不少国家对前沿议题尚感隔膜，各自的关切也大不相同，例如，一些国家更在意眼下的气候变化或本土族群权益保护，至于遥远的模型风险，则无暇他顾。全球治理的困局，恰埋藏在这种错位之中。

也正是在这里，梁正给出了他的根本立场——以人为本。他所说的“人”，指向的并非少数发达国家或特定群体，而是包括弱势者与广大发展中国家在内的全人类。梁正坚信技术的进步理应向善，正如一些机构已将人工智能用于癌症的早期筛查，创造出普惠而切实的社会价值，而非沦为加剧分化与隔阂的工具。而在这条路上，中国也将竭力做好自身，为全球人工智能治理贡献独特智慧。