点击蓝字

关注我们



肖茜


清华大学人工智能国际治理研究院副院长战略与安全研究中心副主任

I-AIIG


人工智能赛道上的“中国叙事”

当今世界一大现象是,人工智能技术正在快速迭代更新,围绕其发展、应用和安全治理的竞争日趋激烈,中国和美国以各自优势居于潮头领先位置。

7月23日,白宫发布《赢得竞赛:美国人工智能行动计划》,明确了美国人工智能发展新战略的目标、宗旨、路径和重心所在,一切锁定对华竞争,去除冗余监管,谋求新技术在美国的快速发展和全球广泛应用,同时继续拒绝国际上加强人工智能安全治理的逻辑和邀约。

如何认识当下的人工智能竞赛?中国人工智能应坚持走什么样的路径,并且强化怎样的叙事?本刊与清华大学人工智能国际治理研究院合作,特约几位专家学者进行圆桌讨论。

 ——编者手记

嘉   宾:

肖 茜  清华大学人工智能国际治理研究院副院长、清华大学战略与安全研究中心副主任

李 峥  中国现代国际关系研究院美国研究所副所长

包堉含  北京外国语大学国际组织学院讲师

郝 敏  国际关系学院法学院院长、国际关系学院知识产权与科技安全研究中心主任

李筱健 清华大学人工智能学院博士生

主持人:

安   刚   《世界知识》杂志社编辑


2025年8月17日,首届世界人形机器人运动会田径100米飞人大战在北京国家速滑馆举行,天工机器人夺冠。


如何看美国的人工智能发展战略

肖茜:特朗普政府发布的人工智能行动计划,目的就是要为保证美国的人工智能主导地位而扫除障碍,所以对内重点推动放松监管,对外强调赢得来自中国的竞争。在《赢得竞赛:美国人工智能行动计划》发布前,特朗普同时签署了三个行政令,分别要在采购、基础设施建设、技术出口这三个核心层面重塑美国的领导地位。

特朗普的人工智能政策深受“科技右翼”影响,强调市场优先,反对过度监管,还严厉批判和抵制“觉醒文化”对技术发展的干扰,实际上与共和党的保守政治议程形成合流。特朗普认为过高的监管成本和冗长的审批时间已使美国在人工智能全球竞争中受到严重束缚,于是以雷霆手段推翻拜登时期针对数据中心开发强加的“必须提及虚假信息、多样性、公平性、包容性和气候变化内容”的监管要求,暂停或修改与加强美国在人工智能领域领导地位方向不一致的政策和行动,还要限制相关联邦资金流入人工智能法规繁琐的州。可见,特朗普政府正在竭力为美国的人工智能发展创造一个更加自由和宽松的环境,因而是“竞争优先”的。

特朗普意识到强大的人工智能技术必须建立在庞大的能源和算力支撑基础之上,所以喊出“Build, Baby, Build!”(建吧,宝贝,建吧!)口号,为其所期待看到的美国能源和数据中心疯狂扩张大开绿灯。事实上,特朗普再度上台后不久,即宣布实施“星际之门”(Stargate)计划,拟四年内投资5000亿美元,建设涵盖数据中心集群、能源扩容系统及半导体制造能力的人工智能基础设施网络。现在,除了简化审批流程外,特朗普及其政府还准备释放更多财政激励手段和土地资源,用“战时速度”推进数据中心建设,包括动用《国防生产法》提振核能生产,在今后25年内将美国核能发电量翻两番。

同拜登时期相比,特朗普2.0的人工智能发展战略确有“新意”。第一个就是要以很大力度推动人工智能的产业化进程,试图改变过去过于强调通用人工智能(AGI)研发的情况,解决美国人工智能技术应用速度过于缓慢的问题。

第二个“新意”是更加重视与私营企业的合作。特朗普政府需要科技巨头公司拿出巨额资金投入政府推动的算力基建,也有意通过公私合作的方式来加快技术突破,带动芯片制造和能源、网络升级。特朗普也把从科技私企中挖掘的人才大量任用到自己的政府部门当中,比如任命Scale AI公司的总经理迈克尔·克拉齐奥斯为白宫科技政策办公室主任,风投家大卫·萨克斯为白宫人工智能和加密货币主管(也被称为“AI沙皇”),这两人正是《赢得竞赛:美国人工智能行动计划》的幕后操盘手。

第三个“新意”是积极动用国家力量系统推动美国人工智能技术的全球部署,压促各国接受美国制定的技术和应用标准。拜登曾因担心中国“曲线”获得高端芯片而签署《人工智能扩散规则》,对美国的芯片出口实施极为严格的限制分级政策。特朗普在一些技术大佬的游说下,认为这种措施其实不利于美国的人工智能技术标准在全球范围得到广泛接受,于是动用国家力量,甚至亲自出马,向沙特、阿联酋等中东国家兜售人工智能的“美国方案”,后又同意英伟达对华出口H20芯片。《赢得竞赛:美国人工智能行动计划》也提到要出口“全栈(Full Stack)技术包”,也就是从底层到顶层的所有人工智能相关技术硬件、模型和软件。

李峥:客观而言,《赢得竞赛:美国人工智能行动计划》相对于其在其他领域推行的政策,是最具科学性和理性意义的,也体现了美国的全社会参与,事先用了半年时间广泛听取美国科学界、战略界、产业界的看法,收集到一万多条意见和建议,最终浓缩为一份28页的政策文件。这份文件基本涵盖了美国现阶段对人工智能发展的三大主要关切——创新、基础设施、国际安全,对任何致力于发展人工智能的国家都必须回答的关键性问题——重发展还是重监管,如何促进算料开放,如何进行安全评估,如何推进各领域应用,如何完善出口管制政策,监管重点应放在开源还是闭源上,等等,提供了“美国原则”,可以说相当系统和全面。

《赢得竞赛:美国人工智能行动计划》并没有告诉大家美国要发展什么样的人工智能,但从特朗普再度上台以来的种种操作看,他支持的项目——从推出“星际之门”到重构半导体产业链,再到加强人工智能物项出口管制——普遍反映了“主权人工智能”(Sovereign AI)概念的应用,几乎都是在围绕建立由美国少数科技巨头公司主导的大规模高强度人工智能来规划政策,帮助它们尽快实现通用人工智能技术突破。这恐怕会强加美国人工智能产业的垄断化,带来很多难以预料的问题,也会使监管变得更加困难和不透明。而且,高度的垄断必然导致巨大的投资泡沫,从而扩大金融风险。截至今年8月,英伟达在标普500指数中所占权重约为8%,是自1981年有记录以来所有个股的最高水平(过去唯一一家超过7%的公司是2023年的苹果)。此外,美国以当年追求登月的心态推动通用人工智能,确实会在近期扩大相对于其他国家的领先优势,但仍无法回答这项技术到底会被用在哪里的问题——通过人工智能会替代人类进行思考吗?能在多大程度上替代人类的日常工作,比如自动驾驶、工业控制?实际上它不一定具备这样的能力,那么全力发展它的意义又在哪里呢?泡沫会不会越来越大?

“主权人工智能”概念是2024年开始热起来的,由英伟达公司率先提出,意指国家通过自主建设基础设施、训练符合本国文化特征的数据模型、形成本土生态系统等方式发展人工智能能力的战略性框架。这种模式在中国的半导体产业政策上有所反映,但是否适用于中国,存在疑问和争议。不一哄而上,不过度内卷,也是中国人工智能健康发展的内在要求。要看到,人工智能不同于半导体产业,国内好的人工智能企业往往并不缺资金支持,对于没有什么发展潜力的企业,即便投入巨额资金也不一定产生大的效果。国家对人工智能领域进行产业性投资,难度远大于新能源和半导体领域,也需要在政府部门储备大量熟悉人工智能的规划和运营人才。DeepSeek的横空出世使大家看到,在人工智能领域,激发企业的自主创新行为在某些时候要比推动国家主导模式能够产生更快更好的效果。另外,“主权人工智能”将人工智能生态强行推广到其他国家进而制造“生态隔离”的作法也不是中方所能认同和支持的。



2025年7月26日至29日,2025世界人工智能大会在上海召开,华为在会上首次展示了人工智能计算系统“昇腾384超节点”硬件实体设备,被外媒评论为“能与英伟达最强人工智能计算平台产品相抗衡”。


包堉含:最近三四年,人工智能和生物技术发展的交叉融合日益显著,人工智能安全与生物安全的治理多有叠加,出现了从技术合流向治理合流的趋势,拜登政府和特朗普政府发布的关于人工智能的政策均提到了这一点。《赢得竞赛:美国人工智能行动计划》最后一个小节的主题就是“投资生物安全”,此外也细化了大规模杀伤性武器、生物研究等领域人工智能应用的规则规制,同时高度重视人工智能赋能科技创新,专门提到要开展全生物基因组测序工作,形成能用来训练生物大模型的数据集。

虽然特朗普政府与拜登政府在人工智能治理的思路上有很大不同,上任以来撤销了拜登在2022年至2024年间签署的人工智能、生物经济等领域一系列行政令,但实际上其发布的行动计划所提到的完善核酸合成筛查体系、避免人工智能被恶意行为者使用等行动要求,与拜登行政令中关于生物安全治理的思路和要求基本一脉相承。从这个角度看,特朗普政府实际是从总体上放松了在社会、价值领域对人工智能“软风险”的规制,而对人工智能被恶意用于化生核放等大规模杀伤性武器研发、涉及国土防御和国家安全的“硬风险”,其治理思路与前政府并没有大的区别。背后原因可能在于,化、生、核、放等大规模杀伤性武器的研发制造门槛和成本在过去是非常高的,今后在人工智能赋能之下可能显著降低,更容易被恐怖组织等非国家行为体掌握,从而增加新的安全风险。这一点得到了跨政府界别的普遍认同。





中美人工智能竞赛谁更胜券在握

郝敏:单从技术和模型的角度讲,美国的专业人士认为中国人工智能发展与美国仍有三到六个月的差距,美国可能在盈利能力等方面更胜一筹,有市值很高的公司,为人工智能研发带来更多的资本。但是,中国已经充分证明了需求才是创新的源泉,尽管在算力和资金来源上仍相对不占优势,但在实践中,无论是技术层面还是执行能力都已经赶上来了,目前开源模型的发展事实上也由中国引领。

从长远看,人工智能的竞争并非单一维度上的竞争,而是一个多层次、多维度的综合竞争,涉及技术研发创新、应用场景深耕、能源保障和基础设施建设等多方面的协同支撑,构成人工智能竞争的全方位格局。中国长期以来大力投资建设人工智能迭代与可持续发展所必需的能源和基础设施,全国大范围做好了“五通一平”,即通水、通电、通气、通讯、通路和平整场地。

人工智能数据中心运行需要大量的电力支撑。随着算力需求(主要是模型训练和模型推理)的快速增长,数据中心的电力消耗呈现快速上升趋势。研究显示,人工智能算力需求每100天大约翻一番,导致相关电力需求也快速增加。预计到2030年,人工智能相关数据中心的电力需求将比2021年增长一倍以上,甚至超过某些国家的整体用电量。中国政府敏锐地意识到,丰富、廉价的电力为未来电力密集型产业提供了关键优势,最明显的就是人工智能领域,故而很早就开始布局,在清洁能源和基础设施方面的建设可以用气势如虹来形容,2024年全国电网发电量达到10.09万亿千瓦时,占全球发电量近1/3,比美国、欧盟、日本的总和还要多,成为人类历史上第一个主要依靠电力驱动的经济体。相比之下,美国2024年发电量约4.63万亿千瓦时,约占全球14.83%。特朗普政府现在又自断美国清洁能源发展的“后路”,上台后撤销了很多环保法律法规,想通过加大本土油气资源开发、核能复兴、天然气扩展等手段实现“能源完全独立”,这种做法必然对美国人工智能产业的未来发展构成掣肘。

此外,中国还有一项极富优势的“深层基础设施”,那就是7000多万产业大军。中国的工业劳动力储备规模是世界上最大的,且高度适应密集复杂的制造业产业链。大量工程师、技术工人和管理人员拥有几十年的从业实践经验和“工艺知识”——知道如何制造以及如何让产品变得更好,不断积累技能可以实现持续迭代创新。

中美人工智能竞争和博弈将是个长期过程,美国现已认识到靠出口管制、关税以及一些零零散散的产业政策限制措施不足以遏制中国人工智能产业的快速发展,效果非常有限,因此开始专注于重建自己的工业实力体系。白宫发布的《赢得竞赛:美国人工智能行动计划》旨在维护美国在人工智能技术领域的全球领先地位,对“治理”着墨不多,仅有的一些表述也是出于抗衡“威权主义影响的国际治理”的需要,强调“引领国际人工智能和外交安全”。毕竟,无论在国内还是全球层面,人工智能治理都与监管密不可分,同特朗普政府力推的去监管化格格不入,其也就没有表示出支持多利益相关方治理模式的意愿。而且美国对联合国以及其他多边机构也没有表现出积极的认真态度。而在实践当中,特朗普政府出台的治理型规则少之又少,只在今年5月由特朗普本人签署了“删除法案”(Take It Down Act),明确“未经本人同意披露人工智能生成的伪造内容和私密影像(即非自愿私密露骨影像)属于联邦刑事犯罪”,要求科技平台在接到通知后48小时内删除相关内容,否则将面临联邦贸易委员会的处罚。这是美国首个也是目前唯一一个联邦层面的人工智能监管专门法案,而出台这一举措的动机可能与此前“第一夫人”梅拉尼娅的早期私密照片衍生物在网络上流传有关。

特朗普政府发布《赢得竞赛:美国人工智能行动计划》三天后,中国在上海世界人工智能大会期间发布了《人工智能全球治理行动计划》。8月26日,中国又发布《关于深入实施“人工智能+”行动的意见》。中美人工智能行动计划和发展战略两相对比,差异很大,格局和眼界也高下立判,摆明了两国政府发展人工智能的不同理念和优先事项。

美国的行动计划以“赢得竞赛”为目标、护持霸权为导向、国家安全为优先,强调争夺全球技术主导权,把人工智能当成零和博弈的工具,对外处处掣肘设卡,在多边场合拒绝签署呼吁加强全球人工智能治理的协议、宣言或联合声明。而中国的人工智能行动计划以“服务中国式现代化”为目标,聚焦“普惠共享”的民生价值,把重点放在国内广泛的社会应用上,强调人工智能“要服务于人,支撑中国式现代化”,旨在“推动人工智能与经济社会各行业各领域广泛深度融合,重塑人类生产生活范式,使全体人民共享人工智能发展成果”。中国的行动计划还详细提到,让人工智能走进六大领域,即科学技术、产业发展、消费提质、民生福祉、治理能力、全球合作。在世界上以“赢得朋友”“普惠共享”为目标,包括与其他国家分享在农业、医疗等行业的人工智能应用经验,加强政策与监管协调,降低和消除技术壁垒,完善具备互操作性的人工智能和数字基础设施布局,推动统一算力标准体系建设,构建数据共享的全球性机制平台,合作打造高质量数据集,加快推进安全、产业、伦理等关键领域技术标准制修订,等等。

与美国人工智能行动计划所体现的“阵营化”和“防渗透、打压对手”不同,我国的人工智能计划强调的是“普惠共享”,是帮助全球南方国家实现人工智能赋能,弥合“数字鸿沟”“智能鸿沟”;支持联合国主导人工智能全球治理,和各国一道应对风险;推动算力、数据、技术的国际合作,开放以“平权、互信、共赢”为核心的人工智能开源生态,共同打造全球创新环境,从数智角度推动构建人类命运共同体。


李筱健:美国和中国是人工智能时代两大领先国家。

在大模型能力方面,中美处于“你追我赶”状态,整体差距不算太大。美国的OpenAI和谷歌不断更新发布前沿模型,中国的厂商如DeepSeek、Kimi、千问等基本能够做到紧随其后,在三到六个月时间内发布同等水平的模型,甚至在某些方面刷新着全球最强开源模型的记录。

在前沿技术架构探索方面,GPT-3发布以来,美国公司引领了演化潮流。中国公司在努力跟进,但大多数的模型训练方式和架构设计的突破仍主要由OpenAI这样的美国企业推动,这主要得益于他们拥有世界顶尖的科学家团队以及充足的融资,能够支持多个团队并行探索新技术路线。

而从能源、数据中心、算力基建角度看,中国整体建设已相当充分,只在个别领域与美国存在差距。另外,美国的云厂商积累了极为丰富的数据资源,同时拥有Scale AI这样的专业公司,提供高质量数据标注、收集以及人类反馈数据的配套服务,使得美国公司尚能保持在训练数据方面的优势。但在中文语料和部分特定场景中,中国优势明显。

从整体格局看,中国已在两个方面取得独特领先地位。首先是开源模型。中国厂商因无法在闭源领域与OpenAI竞争,转而在开源模型上寻求突破,从去年下半年开始确立了领先地位。无论是DeepSeek、千问,还是后来的Kimi K2,都是世界最先进的开源模型。美国Meta公司的LLaMA模型被认为没有跟上整体进步的节奏,其内部存在架构和体制问题。OpenAI推出的新开源模型在评测报告中的对比对象主要是中国的DeepSeek和千问,没有提及LLaMA,也印证了中国开源模型的全球领先地位。个人认为,中国在开源模型上的领先优势会维持较长时间,主要是因为:一方面,OpenAI缺乏动力开放最先进的模型;另一方面,美国厂商在开源时受到安全框架的严格约束,使得其开源模型能力难以与闭源顶尖模型相媲美。

特朗普政府的人工智能行动计划明确鼓励发展开源和开放权重的人工智能,主要是由于意识到了三个问题:第一,开源模型便于初创公司使用。最近H6Z一位合伙人透露说,美国超过80%的初创公司在使用中国的开源模型。第二,在商业和政府场景下,开源模型有助于保留敏感数据,无需上传到OpenAI、Anthropic或谷歌这样的闭源厂商。第三,开源模型提升了学术研究影响力,因为学界需要在白盒模型上进行实验和测试,闭源模型限制了研究的可操作性。

再就是人工智能工业场景和应用落地,比如工业机器人,中国部署量占全球总量的50%以上,而美国不到5%。中国还是全球最大的数据消费市场之一,数字化程度位居世界前五行列,与美国并驾齐驱。

特朗普政府的人工智能行动计划只在几处直接提及中国,但整体内容带有明显的针对性,承认“有些国家在科学数据上已取得领先”。事实上,在医学、新能源等关键领域,中国的数据积累已经超越美国。因此,特朗普政府一方面鼓励开源人工智能,一方面继续收紧半导体和相关配套出口,要求限制人工智能芯片用于中国模型,目标直指华为的昇腾芯片,还要求美国企业重新审视供应链合作伙伴。同时,也指令在联合国、经合组织(OECD)、西方七国集团(G7)等国际组织中反对任何由中国主导形成的人工智能治理标准。这些说明,美国将继续遏制中国在人工智能技术上的发展,还要对抗中国在国际治理中影响力和话语权的提升。

特朗普政府的人工智能行动计划特别提出要建立“全面的安全生态”,投资建设更完善的模型评估体系。目前美国的前沿人工智能公司,比如OpenAI,在成立之初就确立了重视社会责任和人工智能可靠性、安全性、可控性的使命和愿景。更新模型时发布的模型卡90%以上内容都是关于安全性和风险测试,包括对一些前沿人工智能危险能力的倾向性测试,而不仅仅是发布模型本身的能力进步。同时,美国社会上有大量第三方机构参与人工智能安全评测,比如Meta以及专门进行红队测试的Apollo Research等。相比之下,中国的模型公司数量更多,竞争激烈,融资压力大,需要不断推出至少能追平或超越美国前沿水平的模型,但目前来看,和美国这些公司相比,无论是从创立之初还是投入持续性来说,都稍弱一些,而且仍然缺乏多元化的第三方安全评测机构,使得国内模型在国际上树立安全形象时受到一定影响。

特朗普政府的人工智能行动计划强调前沿模型要体现“美国价值观”。中国网信办等四部门联合发布的《人工智能生成合成内容标识办法》今年9月1日起正式生效,也规定了中国的生成式人工智能必须符合中国特色社会主义价值观。两国均强化对人工智能模型的价值观要求,意味着模型架构和训练数据层面出现的分歧将不断扩大,最终需要分别训练不同的模型来满足各自合规要求,世界人工智能生态系统有可能因此分化成两个。

2025年7月16日,重庆国际物流枢纽园永辉物流有限公司配送中心,自动化分拣线高速运转。永辉物流依托互联网、大数据等技术,不断推动物流数智化发展,实现物流配送效率大幅提升。


李峥:中美人工智能竞赛备受瞩目,从DeepSeek横空出世到最近阿里巴巴人工智能芯片取得新突破,日益白热化,在美国国内也引发了相当剧烈的讨论。由于人工智能技术本身发展迭代速度极快,中美实力对比情况需要以半年甚至月为基本时间单位不断更新,有时双方差距快速缩小,有时又迅速拉大,是极富动态性的一个过程。最近《华尔街日报》刊登的一篇文章认为,中美人工智能竞争正在出现“路径上的分叉”,美国全力培育通用人工智能,中国则是致力于推进“人工智能+”,两条路径孰优孰劣现在还很难说,但在大家目光可及之处,“人工智能+”的战略确实比通用人工智能的战略更能给人类社会带来帮助,正在把万物智能转化成现实生产力。

对于中美人工智能竞赛,原先美方的主要关注点聚集在算力算法上,为此在芯片、人才资源、技术设备等方面对中国实施了严苛的出口管制政策,今后仍会加强和优化,但这种政策的边际效应也在不断递减,无法阻止中国人工智能的整体进步态势,而且倒逼中国全力加快自主研发和全面应用。这次出台的《赢得竞赛:美国人工智能行动计划》明确提出,美国未来的人工智能出口管制是与投资产业和生态捆绑结合到一起的,也就是说,将来购买美国人工智能技术的国家将不得不同时引进美国的人工智能生态系统,事实上等于在逼迫各国在美中两套技术生态之间做一个选择。最近不断有传言说,美国针对中国一些科技企业将不仅实施产品设备上的管制,也会禁止它们的产品系统和技术生态与美国企业的产品系统和技术生态进行共用和兼容。这种“二选一”的局面正是美国想要推动的竞争模式。


2025年8月26日,浙江杭州未来科学城阿里中心。该中心聚焦人工智能、云计算、大数据等前沿领域,整合上下游资源形成数字科技产业集群。

包堉含:中美在人工智能领域进行的不只是技术层面的竞赛,本质上也是政策生态、创新生态层面的竞赛,只有超越竞争才会最终赢得竞争。当特朗普政府开始放松美国人工智能发展的自我监管、试图推动美国本土的人工智能创新时,中国政府持续推进科技体制改革、建设开源创新生态,本着发展与监管并重的原则,“精兵简政”,消除繁文缛节,减轻科研人员负担,为科技创新松绑,让政策监管服务于促进创新。DeepSeek的横空出世表明,中国正在成为人工智能开源创新大国,不只是把自己的科技创新做好,也要把中国打造为全球科技创新的最大策源地。美国的人工智能行动计划为什么特别在意技术的两用性?我觉得可能与其内心深层次的不安全感有关。9.11事件后,美国的安全政策发生转向,极力防范自己遭受技术滥用的攻击,希望把种种前沿技术、尖端技术垄断在美国手里的心态也更加明显,形成很强的政策导向。这种做法对推动科技领域的国际合作以及使科技惠及更广泛群体而言,并非积极姿态,在相当大程度上会削弱美国为追求开源领先地位和构建全球技术联盟而付出的努力。我近期与一些欧洲学者交流时也注意到,不少人认为美国已成为一个较难合作的对象,反而是中国这种理性、不偏不倚的“中道治理”和开源包容模式,更合适技术的可持续创新和全球科技安全治理。当然这不等于说中国不重视技术安全,但我们不会像美国那样走极端。中国战略定力强,是未来在人工智能领域赢得对美竞争和全球更多国家支持的重要保障。

同时,我仍认为中美不能放弃耕耘彼此对话合作的土壤。如果对人工智能带来的风险进行分类,那么在技术滥用和恶意使用等相关安全议题上,比如人工智能与化学、生物、核武器等领域交叉所带来的风险,中美是可以开展对话和合作的。中国军控与裁军协会和美国“减少核威胁倡议组织”(NTI)近年来也一直在围绕人工智能与生物技术交叉领域的风险展开二轨对话。

肖茜:7月我在参加2025上海世界人工智能大会暨人工智能全球治理高级别会议期间,现场聆听了美国等外国专家的会内会外讨论,一个强烈感受是,他们来之前都不认为中国有加强人工智能治理的诚意,认为中国出于对美竞争需要,也会允许人工智能技术在人类尚不能明确其风险究竟有多大时就野蛮生长。他们还告诉我们,特朗普政府对美国人工智能战略进行去监管化改革,在很大程度上是以“中国不监管,美国不能自缚手脚”为借口的。然而,他们在听取了中国领导人、官员和专业人员的阐述并在会外参观了一批中国人工智能企业后,开始相信中国是要把握发展和治理之间的平衡的,也有潜力和意愿引领全球人工智能治理朝有利于这一技术健康有序发展的方向进行,他们希望中国大胆行动起来,在国际上发挥必要的引领作用。他们中的相当多人也认为特朗普政府制定的人工智能行动计划过于聚焦竞争性,将中国标记为这场世纪竞赛的首要对手,一切都被这一思维牵着走,不会有如其所期的结果。

带着这样的思考,诺贝尔奖、图灵奖双重得主、有“人工智能教父”之称的杰弗里·辛顿回去后不久就发表文章指出,人工智能对人类构成了真实的生存威胁,短期风险如前所述,在于将大大降低制造生物武器等大规模毁灭性工具的门槛,使得普通个体也能造成灾难性破坏,长期风险在于今后5到20年内可能发展出超越人类的超级智能,届时人类将面临对人工智能失去控制甚至导致自身灭绝的风险。辛顿说,中国很多政界人士都是工程师出身,理解这个问题的深度,“对于生存威胁,只要有一个国家想出应对办法,就可以告诉其他国家”,“我们能相信中国会维护全人类的利益吗?这是次要问题。人类的生存比过得舒不舒服更重要。你能相信美国吗?”谷歌公司前首席执行官埃里克·施密特从上海回去后也很快写了篇文章,呼吁美国不要再继续执迷于通用人工智能,而是要向中国学习,把人工智能真正用到人们的日常生产生活中去。

不过,固然中美人工智能竞争激烈,美国一些人竭力推动两国人工智能脱钩,但在全球安全治理这一领域,双方仍有合作空间。在中美官方层面尚无法就有关问题开展对话合作之时,双方专家人士在二轨层面保持着沟通和交流。清华大学战略与安全研究中心已同美国布鲁金斯学会进行了几年对话,对方学者也认为治理议题非常重要。最近在新加坡的一次中美学术会议上,有美方学者提出双方可在自主系统安全防范和风险监测方面进行初步的信息共享。近期美方一些专家和业界人士也在交流中表示,特朗普政府就是要确保美国继续掌握人工智能技术优势,确保美国的技术和产品在全世界被广泛采用,但这并不意味着美国不重视安全治理,而是认为不应在充分理解风险之前就匆忙对人工智能发展进行规制,OpenAI、Anthropic等公司就正与美国人工智能标准与创新中心进行合作,研究如何对最前沿的大模型进行评估,确保其安全可控。长远看,就像辛顿先生说的,将来如果人工智能真的给人类带来“外星人入侵”这类威胁,中美或许就有动力以严肃的现实主义方式去合作应对了。


中国人工智能要在发展与治理之间更好把握平衡

李峥:我们现在的人工智能发展非常重视应用层面,强调赋能,但实际上整个生态建设,除了华为、阿里这样的少数企业外,还是有差距的,尚不能提供全方位的服务。要加速追赶,让企业使用人工智能后能在经营效率、管理效能、风险管控方面有明显的提升,也能把相应的服务外包出去。在人工智能“软实力”方面,中国已经通过了很多法律和规则,提出了不少国际计划和倡议,但多数仍较宽泛,颗粒度不够细,还需要加强。未来国内是否可以探索设立专门的人工智能法院,就像现在已经有金融法院、互联网法院一样?实际上,有些国家已开始研究设立专门处理人工智能事务的政府部门,中国在此方面应作何考虑?

肖茜:“中国路径”的核心要义是“以我为主”。2025上海世界人工智能大会倡议成立世界人工智能合作组织,以及人工智能创新治理中心,应加紧细化落实,同时继续积极参与联合国大会平台上的人工智能国际治理对话议程,在其设立的国际科学小组和人工智能治理全球对话机制中发挥作用,充分运用中国在评估人工智能风险机遇和影响方面的话语权。与此同时,也要充分利用上海合作组织、金砖国家合作机制、中国—东盟(10+1)合作机制等平台,推动全球南方人工智能合作,把我们的产品、理念推广出去。加紧围绕人工智能安全治理进行议题设计,展现中国负责任的人工智能大国形象,打破美西方蓄意制造的“中国是人工智能监控大国”“人工智能军事滥用国家”的虚假叙事。此外,也要坚持广交朋友,积极做国际上支持加强人工智能安全治理、反对以意识形态分裂人工智能体系的专家、院校和机构工作,不断壮大推动人工智能向善发展的力量。

郝敏:技术永远走在法律前面。立法程序繁琐冗长,很难跟上人工智能技术飞速发展的步伐,但加速基于科学的、基于证据的人工智能政策与法律制定,又对我国人工智能领域的科学、理性、有序发展至关重要,也关乎我国未来产业的健康发展。我国的人工智能立法与规则体系正快速构建和完善起来,目前的主要特点是以部门规章为主,包括《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》等,以及正在公开征求意见的《人工智能科技伦理管理服务办法》,同时还有《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等上位法作支撑,深圳、上海等地针对人工智能产业发展和安全治理的地方性法规和产业促进条例等,逐步形成较严密的监管框架。可以说,我国人工智能法律体系具有“从特殊到一般”的立法逻辑,先行发布针对特定技术和应用的法规规章,再推进综合性人工智能法的制定,体现了人工智能法律体系的系统性和科学性。

这些立法与软规则的制定过程体现了包容审慎、分级分类、多部门联合监管的思路,发改委、网信办、教育部、工信部、科技部等多部门协同推进。同时,我国积极推动顶层设计与综合立法,强调安全、伦理与创新并重,力求实现技术发展与风险防控之间的动态平衡,打造中国特色的人工智能治理体系。贯彻法治保障与创新发展的平衡与协调发展思路,在服务好国内人工智能相关产业健康可持续发展需求的同时,也为加强全球治理提供范式和引领。

包堉含:个人比较关切两方面的工作,希望国家加强引导,推动加快有关进程。第一,在人工智能赋能科技创新方面,加紧构建用于训练人工智能模型的数据库,尤其是开源共享的数据库。比如在生物科技领域,生物数据库就非常重要,这一点也是《赢得竞赛:美国人工智能行动计划》所专门强调的。第二,在人工智能安全尤其是模型安全测试方面,我们的进展稍显迟缓,2023年以来Anthropic、OpenAI等公司就开展了好几轮关于人工智能生物安全风险的红队测试。在这个领域,我们应积极探索更具创新性的评测办法,同时尽可能地推动国际合作。

李筱健:如果没有外力推动,模型公司往往不愿在安全和对齐方面投入太多,也就难有自主动力去开展全面的安全测试,因为在这些方面做得越多,模型能力就越受约束,反而给训练最先进的模型带来麻烦。负责任的人工智能安全形象,包括模型公司自身安全形象,有赖于多个第三方评测机构的支持和背书。目前,我国企业在安全方面的工作基本都是自行内部完成的,传统云厂商大多依赖自身的云安全和网络安全部门来支撑其模型安全。而在美国,最先进的安全工作有一部分由公司自行完成,其他交给盈利和非盈利性的第三方机构承担,非盈利组织的资金多来自产业非直接利益相关方的捐赠。第三方测试公司应在模型训练过程中就介入,提供边训练边测试的服务。总之,我们应该更多倡导社会各界采取配套措施,支持国内人工智能评测体系建设,包括一个完善的第三方评测体系,政府也有必要出台相应政策措施,利用金融和产业政策等手段来推动建立这样的体系。


·  END  ·


本文刊登在《世界知识》2025年
第21期
责编:安刚




内容中包含的图片若涉及版权问题,请及时与我们联系删除