2025人工智能大事件回顾丨国际治理篇

2025年2月10-11日,人工智能行动峰会在法国巴黎大皇宫举行,由法国总统马克龙和印度总理莫迪共同主持。来自100多个国家的1000多名参与者出席,包括政府领导人、国际组织、学术界、私营部门和民间社会代表。峰会发布了《国际人工智能安全报告》,汇集96位AI专家的观点,聚焦通用AI系统的能力、风险和缓解技术。法国政府在峰会上宣布成立Current AI基金会,初始投资4亿美元,支持创建AI"公共产品",包括高质量数据集和开源工具。58个国家包括法国、中国和印度签署了《关于以人为本和可持续人工智能的联合声明》,但美国和英国拒绝签署。谷歌、Discord、OpenAI和Roblox支持的ROOST倡议在峰会上首次亮相,致力于开发免费、开源工具来检测和报告儿童性虐待材料。美国副总统万斯在峰会开幕式上宣称:"我今天早上不是来谈论AI安全的,去年会议的主题就是这个。我是来谈论AI机遇的。"这标志着从AI安全转向AI机遇的政策重心转移。马克龙强调欧洲"重回AI竞赛",呼吁欧盟"简化监管"和"与世界其他地区重新同步"。同月2月2日,欧盟AI法案关于禁止AI实践的规定开始生效。关于禁止AI实践的指南仅在规定生效前两天即2月4日发布,给组织留下的准备时间很少。

全球各国继续推进AI治理框架的实施。非洲联盟宣布将AI列为这个拥有世界上最年轻人口的充满活力大陆的"战略优先事项"。印度预计在2025年晚些时候推出新的《数字印度法案》,同时NITI Aayog更新了AI治理指南,强调印度"拥有颠覆"的立场,支撑该国"塑造AI以造福世界"的重点。改革侧重于算法问责制、监管合规和平台责任,印度正从纯粹以创新为中心的模式转向平衡创新与保障措施的模式。这一时期,全球范围内77%的受访组织报告正在开展AI治理工作,对于已经使用AI的组织,这一比例跃升至近90%。值得注意的是,30%尚未使用AI的组织也报告正在开展AI治理工作,这可能揭示了"治理优先"的普遍优先级。

欧盟AI法案通用AI实践守则原定于5月2日发布,但被推迟至8月2日,反映出实施过程中的复杂性和挑战。这一时期,国际标准特别是ISO/IEC 42001在塑造风险管理、隐私和审计流程方面变得越来越具有影响力。全球各地的组织开始将AI治理视为董事会级别的关切,以确保持续问责和战略一致性,许多成熟的AI治理项目正在将其整合到现有的风险和合规监督论坛中。爱沙尼亚和瑞士等国的成功国家战略优先考虑以人为本的AI、强大的基础设施和国际合作,成为其他国家的参考模式。

经合组织在6月发布了《以人工智能治理:核心政府职能的现状与前进方向》报告,探讨了政府如何在11个核心职能中使用AI的200个实际案例,从提供公共服务和司法管理到打击腐败、管理财务和改革公务员制度。报告发现,57%的案例支持自动化、简化或定制服务,45%的案例增强决策、感知或预测,30%旨在提高问责制和异常检测。报告还指出,政府采用AI面临的主要挑战包括技能差距、数据访问和共享质量问题、缺乏具体指导以及遗留IT系统等障碍。这一时期,各国政府开始更加重视AI治理的实际操作层面,从原则转向工具和流程。

该计划基于加速创新、建设美国AI基础设施、引领国际外交与安全三大支柱,确定了90多项联邦政策行动。该计划的核心政策包括出口美国AI,商务部和国务院将与业界合作向美国的盟友提供包括硬件、模型、软件、应用和标准在内的完整AI出口方案。该计划强调去监管和市场驱动的方法,与拜登政府的AI行政命令形成鲜明对比,要求从NIST的AI风险管理框架中删除"错误信息"、多元化公平和包容DEI以及气候变化的引用,同时支持开源和开放权重AI模型,鼓励广泛采用。配合该行动计划,白宫发布了三项行政命令:促进美国AI技术栈出口以建立美国AI出口计划,简化数据中心联邦许可流程以加速AI基础设施建设,以及防止联邦政府中的"觉醒AI",要求联邦采购的AI系统必须"客观"且"意识形态中立"。

7月26日,世界人工智能大会和全球AI治理高级别会议在上海开幕,中国国务院总理李强出席并致辞。会议吸引了来自30多个国家和地区的1200多位嘉宾,包括12位图灵奖和诺贝尔奖得主。李强代表中国政府提议建立"全球人工智能合作组织",总部暂定设在上海。会议发布了《全球人工智能治理行动计划》,包含13点路线图,旨在实施2023年提出的《全球人工智能治理倡议》。该行动计划强调以联合国为主要渠道,支持在联合国框架下建立国际AI科学小组和全球AI治理对话,倡导建立开放平台共享最佳实践,推动国际合作以应对AI安全风险。行动计划还特别强调将国际AI能力建设合作置于全球AI治理议程的优先位置,鼓励AI领先国家采取具体行动,如合作开发AI基础设施、建立联合实验室、建立安全评估的相互认可平台、组织AI能力建设的教育和培训项目等,以支持发展中国家增强AI创新、应用和治理方面的综合能力建设。图灵奖得主、2024年诺贝尔物理学奖获得者杰弗里·辛顿首次访问中国并参加会议。中国的计划强调多边主义、包容性发展和支持全球南方国家的能力建设,而美国计划则侧重于美国主导地位和技术竞争力,形成鲜明对比。

2025年9月26日,联合国总部举行AI治理高级别大会会议,标志着所有193个成员国首次在国际AI治理发展中拥有发言权。会议汇集了来自世界各地的外交官、科学家、科技界成员、私营部门和民间社会。2024年联合国报告发现,118个国家不是近年来创建的任何重要"国际"AI治理倡议的缔约方,只有7个发达国家是所有倡议的缔约方。会议旨在解决这种代表性缺失,启动更具包容性的国际治理形式,重点讨论两个新的里程碑机构即独立国际AI科学小组和全球AI治理对话。秘书长古特雷斯在会议上发表讲话,启动了全球AI治理对话,强调联合国作为应对这一变革性技术的全球主要场所的作用。他指出:"问题不再是AI是否会改变我们的世界——它已经在改变。问题是我们是否会共同治理这一转变——还是让它来治理我们。"全球对话的目标明确:帮助建立安全、可靠和值得信赖的AI系统,以国际法、人权和有效监督为基础;促进治理体系之间的互操作性,协调规则、减少障碍并促进经济合作;鼓励开放创新,包括开源工具和所有人都可以访问的共享资源。

2025年10月,联合国正式启动两个AI治理机构:全球AI治理对话和独立国际AI科学小组。秘书长同时启动了对AI科学小组候选人的公开征集,来自所有地区和学科的专家均可申请。这一新架构旨在为AI带来更具包容性的国际治理形式,基于政策、科学和能力三大支柱构建能够跟上人类历史上发展最快技术的全球AI生态系统。科学小组将成为世界的预警系统和证据引擎,帮助国际社会从噪音中分离信号,从恐惧中提取远见。同月,国际电信联盟ITU发布了《2025年度AI治理报告:引领AI的未来》,强调需要主动、包容和适应性治理来应对AI的快速演变和全球影响,突出平衡创新与监管、确保公平获取和管理风险方面的挑战。报告指出,有效的治理需要从原则转向操作工具,关注透明度、能力建设和环境可持续性。

2025年11月,欧盟委员会考虑根据大型科技公司和美国政府的压力,放宽其旗舰AI法案的部分内容。拟议的变化是欧盟委员会最近宣布的"简化议程"的一部分,旨在在欧盟内部创造"更有利的商业环境"。委员会正在考虑推迟AI法案下与透明度违规相关的处罚开始日期。如果获得批准,不合规的罚款要到2027年8月才会生效。拟议方案在委员会内部和成员国之间仍在讨论中,预计在11月19日通过之前可能会修改,需要大多数欧盟国家和欧洲议会的批准才能实施。特朗普政府对欧洲AI监管方法持批评态度。美国副总统万斯在今年早些时候的巴黎AI峰会上公开警告,欧洲对AI的"过度监管"可能会扼杀这个新兴产业。这一时期的争议凸显了在全球范围内协调AI治理方法的困难,以及创新与监管之间持续的紧张关系。

2025年12月11日,美国总统特朗普签署了《确保人工智能国家政策框架》行政命令,寻求建立统一的国家AI监管标准并限制州级监管。该行政命令指出:"要赢得竞争,美国AI公司必须能够在没有繁琐监管的情况下自由创新。但过度的州级监管阻碍了这一要求。"该命令指示司法部长在30天内建立AI诉讼工作组,挑战与联邦政策不一致的州AI法律,理由包括对州际商业的违宪负担、被现有联邦法规或条例抢占以及司法部长认为适当的其他依据。该命令还指示商务部在90天内发布对现有州AI法律的评估,识别那些被视为"繁重"并与国家政策冲突的法律,包括那些要求模型改变真实输出或强制以违反宪法的方式披露或报告信息的法律。该命令特别批评了科罗拉多州的算法歧视法,称其可能迫使AI系统"产生虚假结果以避免对受保护群体的'差别对待或影响'"。

该行政命令还通过联邦资金条件来影响州AI政策,指示商务部在90天内发布政策通知,规定各州在什么条件下有资格获得宽带公平接入和部署计划下的剩余非部署资金,规定具有评估中确定的繁重AI法律的州没有资格获得这些资金。它进一步指示行政部门评估是否可以将自由裁量拨款计划的条件设定为各州不制定冲突的AI法律,或者对于已经制定此类法律的州,在拨款执行期间签订不执行此类法律的有约束力协议。该命令还指示联邦通信委员会主席和联邦贸易委员会采取行动,限制各州强制AI公司欺骗消费者的能力。特朗普政府将此行政命令视为应对其认为的紧急危机的回应:由州行动驱动的快速碎片化AI监管格局,有可能破坏经济增长、就业创造、国家安全以及美国相对于中国的竞争力。这一行政命令引发了州政府、民间社会组织和隐私倡导者的强烈反对,许多人认为这是对州权力的违宪侵犯,预计将引发广泛的法律挑战。