点击蓝字

关注我们

海外智库观察

美国总统拜登于2023年10月30日签署了《关于安全、可靠和可信地开发和使用的人工智能的行政命令（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence）》。该行政令包含了八项指导原则 (参见海外智库观察221期)


斯坦福大学以人为本人工智能研究所

Stanford HAI


人工智能行政命令是确保美国人工智能创新和领先地位的关键举措

2023年11月16日，斯坦福大学以人为本人工智能研究所发布其政策研究经理Caroline Meinhardt、政策倡议高级经理Daniel Zhang、政策研究员Rohini Kosoglu、斯坦福大学RegLab博士后学者Lindsey A. Gailmard等人共同撰写的《用数字说话：追踪人工智能行政令（By the Numbers: Tracking The AI Executive Order）》。文章认为拜登政府的人工智能行政令具有广泛性、紧迫性和优先性的显著特征，在确保美国继续走在负责任的人工智能创新和治理的前沿方面迈出了重要的一步。


首先，该行政令最显著的优点在于它非常全面地涵盖了人工智能领域的相关问题。根据HAI的统计，它总共对联邦政府提出了从制定指导方针或框架到开展研究、创建工作组、发布建议、实施政策，以及在适当情况下参与规则制定等150项要求。


这一行政令还充分考虑了与人工智能相关的风险和政策领域的不同的要求，比如在包含实质性要求的九个章节中，第四节的安全领域、第五节的创新领域和第十节的政府领域共占所有内容的三分之二。

同时，每个部分兼顾了不同主题的要求，比如，在所有的内容中，对于吸引人工智能人才的要求数量最多，在第十节政府领域的部分列出了21项要求，这些要求旨在改善联邦政府雇用和留住人工智能人才的状况。对于人工智能人才问题的关注反映出政府深刻认识到政府内部缺乏推动人工智能工作的专业技术人才的问题，认识到应当采取行动改革和简化联邦招聘流程，以应对人工智能人才增加所可能引发的问题。


在涵盖了人工智能领域广泛的要求之外，该行政令还突出了解决人工智能的衍生安全、内生安全和可靠性问题的重点。比如，第四节安全领域的内容涉及了安全标准、评估和基准、关键基础设施和网络安全、以及与化学、生物、辐射和核相关的风险，这些要求共有23项。其他在行政令中受到极大关注的政策问题包括解决公平和公民权利问题、保护消费者权利、改革移民政策（以吸引人工智能人才来美国）、管理联邦政府对人工智能的使用，以及加强美国在人工智能治理方面的全球领导地位。


其次，该行政令采用了“全政府”的办法，将责任分散式地分配给了50多个联邦机构，并要求政府部门之间开展广泛的合作与协调。其中，总统行政办公室和商务部负责的任务最多，分别有25项和24项。


这项行政令第三个最突出的特点在于其迫切要求各机构采取行动以积极落实联邦政府的人工智能政策议程，极大地提高了这项行政令的执行力。对于72%的要求，该行政令设定了完成行动的时间限制。在这些期限中，94%的期限为一年之内，即要求在2024年10月29日之前完成；约有五分之一的期限为在90天内完成，即要求在2024年1月28日之前完成；甚至还有10项要求在2023年年底前实施。这意味着分配给联邦机构的许多任务可能已经开始执行。同时，这也反映出拜登政府希望在其第一任任期结束前取得尽可能多的进展，且避免出现因总统换届而撤销行政令的情况。


此外，还有42项（占全部任务28%）没有给出具体的截止日期，意味着这类任务需要持续地参与，而非短期、分散地完成。比如，第四节安全问题的部分不仅包含了最多的要求，而且限定了时间要求的比例也高达90%；而第六节工人问题的部分和第九节隐私问题的部分只有50%的要求有时间限制；第七节公民权利的部分有64%的任务提出了时间限制；其他任务也多为定期或持续性行动，偶尔为没有给出具体目标完成日期的“开放性”要求。其中，第九节隐私问题的部分、第十一节国际合作问题的部分、第七节公民权利问题的部分、第五节创新问题的部分和第十节政府问题的部分中“持续性”要求的占比较高。尽管这些没有具体期限的任务赋予了政府机构在实施中的灵活性，但也可能导致模糊不清、执行情况难以追踪等问题。



总体而言，文章认为拜登政府的这一行政令关注了人工智能领域广泛的问题，并在任务分配中明确了哪些问题需要迫切解决，哪些问题需要持续关注和不断更新解决方法。任务的重要程度和完成时间限制突显了拜登政府开展务实地人工智能治理的决心。



加拿大国际治理创新中心

The Centre for International Governance Innovation, CIGI


人工智能行政命令为未来人工智能立法发挥了基础性作用


2023年11月8日，加拿大国际治理创新中心发布其高级研究员David Evan Harris撰写的《拜登关于人工智能的行政命令：太棒了，现在开始生效了（Biden’s Executive Order on AI: Bravo, Now Back to Work）》。文章肯定了该行政令在保护公众利益问题上的创造性努力，认为这项行政令为人工智能立法发挥了基础性作用，并指出了这项行政令值得肯定的五个方面：


首先，该行政令扩大了适用范围，其不仅适用于政府对人工智能的应用，还适用于私营部门对于人工智能的使用。这项行政令援引了美国的《国防生产法》，使其既满足了国防需要和保护关键基础设施的监管需求，也在美国国会因党派斗争而效率低下时提出了合理且务实的解决方案。


其次，该行政令指出了人工智能模型的军民两用性质，承认了人工智能系统的危险性以及被武器化的可能性，在话语上为行政部门的行动和未来的立法提供了依据。


第三，该行政令将超大型模型（如ChatGPT）列为需要遵守重要报告、安全测试和红队测试要求的对象。


第四，该行政令直接提及了开源人工智能，回应了公众对于担心开源人工智能系统落入不法分子手中可能造成危险的关切。


第五，该行政令保障了公民的权利。通过对相关机构提出要求，以确保民众在住房、信贷、医疗保健、刑事判决和政府福利计划等领域免受人工智能系统的歧视。


文章最后指出，尽管这项行政命令中的很多内容不具有约束力，也没有明确执行机制和责任标准，但其为人工智能立法的出台铺平了道路，有利于人工智能监管朝着符合公众利益的方向发展。


卡内基国际和平基金会

Carnegie Endowment for International Peace

人工智能行政命令彰显了美国人工智能治理的决心，有助于美欧后续展开相关合作

2023年11月1日，卡内基国际和平基金会发布其副研究员Hadrien Pouget撰写的《拜登的人工智能命令是欧盟亟需的保证（Biden’s AI Order Is Much-Needed Assurance for the EU）》。文章指出，该行政令不仅对美国国内的人工智能发展至关重要，也向国际社会表明了美国将在人工智能治理上采取积极行动的决心，而这一信号对欧盟来说尤其响亮。


欧盟自2021年4月推出《人工智能法案》初稿以来一直寻求在全球人工智能治理中发挥领导作用，并且在ChatGPT4等大规模语言模型火爆全球后，欧盟决定发布后将此类先进人工智能系统纳入法案范围内，这项立法可能成为迄今对人工智能技术最全面的监管措施。但欧盟内部目前也仍存在关于基础模型监管的争议。


此外，国际舞台上的监管努力正在激增。英国的人工智能安全峰会、七国集团的人工智能行为准则，以及联合国成立的人工智能高级咨询机构等事件，均显示了全球对人工智能治理的迫切关注。因此，欧盟需要尽快敲定《人工智能法案》，以在短期内确定最终立场，否则其国际行动可能会陷入僵局。


在这种背景下，美国的行政令为欧盟提供了双重帮助。首先，它表明美国也愿意对先进人工智能系统施加限制。该行政令代表着美国政府向可强制执行的要求迈进，表明华盛顿愿意限制美国的人工智能公司。美国的行政命令可能不会与欧盟的最终要求完全一致，但至少可以向欧盟成员国表明他们在人工智能治理方面并不是孤立行动。


其次，行政令中的细节对欧盟制定《人工智能法案》非常有用。例如，该行政令中的定义和类别可以为欧盟的立法提供参考，特别是在处理“潜在双重用途” 人工智能技术的问题上。而基于双方的立法努力，欧盟和美国在未来可以与其他国际伙伴合作制定有效的标准。



原文链接：

[1]https://hai.stanford.edu/news/numbers-tracking-ai-executive-order 

[2]https://www.cigionline.org/articles/bidens-executive-order-on-ai-bravo-now-back-to-work/

[3]https://carnegieendowment.org/2023/11/01/biden-s-ai-order-is-much-needed-assurance-for-eu-pub-90888

文章检索丨周韫斐
编译丨边洁 朱奕霏 杨雨虹
审核丨何嘉钰
排版丨赵杨博
终审丨梁正 鲁俊群

清华大学人工智能国际治理研究院编
上述信息均根据原文内容整理，谨供读者参考，不代表本机构立场和观点

往期回顾

海外智库丨人工智能国际治理观察第221期

海外智库丨人工智能国际治理观察第220期

海外智库丨人工智能国际治理观察第219期


关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。



新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

内容中包含的图片若涉及版权问题，请及时与我们联系删除