【全球AI战略洞察】栏目由清华大学人工智能国际治理研究院推出，旨在通过对当前人工智能领域发生的重要信息进行“标注、提炼、解读”，剖析全球AI治理各国家间不同的战略图景，以此描绘人工智能治理领域的国际格局。


栏目主理人：刘典

复旦大学中国研究院副研究员、清华大学人工智能国际治理研究院战略与宏观研究项目主任

前言


2023年10月30日，美国总统拜登签署了美国迄今为止最全面的人工智能监管原则，该行政令涉及范围之广，内容全面，针对美国内部人工智能治理，国际人工智能联结都做出了详细的指示。


以下是行政令的要点内容和原文标注：


01

内容要点

一、据白宫官网上关于本次行政令的内容，其中写到

“拜登总统发布一项具有里程碑意义( landmark)的行政令，”
目的是“以确保美国在人工智能（AI）的发展前景和管理其风险方面处于领先地位。”
使用“ landmark”一词似乎是预示着该项行政令将成为指导未来美国人工智能发展及风险治理的关键性文件
另外白宫的文件指出：
“作为拜登-哈里斯政府负责任创新综合战略的一部分，该行政令建立在总统之前采取的行动基础之上，包括促使 15 家领先公司自愿承诺推动安全、可靠和可信的人工智能发展的工作。”
这里说到的“促使 15 家领先公司自愿承诺推动安全、可靠和可信的人工智能发展的工作。”指的是
·7月21日拜登在白宫召集七家领先的人工智能公司—— 亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI，并宣布这些公司已自愿承诺，帮助实现人工智能技术安全、可靠和透明的发展；
·9月12日美国商务部长雷蒙多、白宫幕僚长齐恩茨和其他高级政府官员当天在白宫召集众多行业领袖，宣布拜登政府已经获得包括英伟达、IBM和Adobe、Palantir、Stability、Salesforce、Scale和Cohere在内的八家企业的第二轮自愿承诺。
行政令提出建立安全、可靠、可信赖的人工智能，其中最引人瞩目的是要求“最强大的AI系统”开发者必须与美国政府分享他们的安全测试结果和相关数据。这里面说到的“最强大的AI系统”开发者肯定包括上述15家领先公司，但不限于此，未来有新的AI巨头也必然要受这份行政令的制约。

二、AI.gov成为美国未来AI战略官方信息中枢渠道

在文末特别提到了“有关拜登-哈里斯政府推进人工智能工作的更多信息，以及加入联邦人工智能队伍的机会，请访问 AI.gov。”
这个AI.gov并不是一个新网站，最早的信息可以追溯到特朗普时期。据新华社的消息，2019年3月美国白宫启动了这个官方网站“AI.gov”，作用是发布美国各联邦机构为落实人工智能“全政府”战略而采取的具体举措。
2019年相比于当前，人工智能并没有受到如此大的关注，我们可以看到美国政府布局之早，定位之准。
在AI.gov官网中指出，AI 是拜登的首要任务。拜登已明确表示，美国必须采取大胆行动，利用 AI 的好处并降低其风险，保护 AI 时代的安全和权利，让每个人都能从 AI 的承诺中受益。
当前AI.gov主要包含四个部分：
1.AI监管(Administration Actions on AI）：此部分主要是发布美国AI监管相关政策，目前这部分的头条内容正是本次的行政令；
2.申请加入美国政府人工智能人才计划（Join the National AI Talent Surge）
3.AI技能培训（Build your AI Skills）：主要包括美国政府对AI人才、学生等进行AI技能培训的各类计划；
4.将您的 AI 技能带到美国（Bring your AI Skills to the U.S.）：此部分包含两类信息，
一是基于非移民的工作签证信息：

  • 拥有特定专业学士学位并希望在类似专业工作的个人——H-1B签证

  • 希望参加交流访问者计划的个人——J-1签证

  • 跨国组织的经理或高管员工——L-1A签证

  • 具有专业知识的跨国组织的员工——L-1B签证

  • 在科学、教育或商业方面具有非凡能力的个人——O-1签证

二是基于移民美国的签证信息：

  • 在科学、教育或商业方面具有非凡能力的个人——EB-1A签证

  • 杰出教授或研究员——EB-1B签证

  • 跨国公司经理或高管——EB-1C签证

  • 在科学或商业（包括人工智能）方面具有高级学位或特殊能力的个人——EB-2签证

  • 技术工人、专业人员或其他工人——EB-3签证

三、行政令指示采取行动包括以下十一项内容

1.人工智能安全和安保新标准
2.制定标准、工具和测试，帮助确保人工智能系统安全、可靠和可信
3.通过制定强有力的生物合成筛选新标准，防范利用人工智能设计危险生物材料的风险
4.通过建立检测人工智能生成内容和认证官方内容的标准和最佳实践，保护美国人免受人工智能带来的欺诈和欺骗。
5.保护美国人的隐私
6.促进公平和公民权利
7.支持消费者、患者和学生
8.支持劳动者
9.促进创新和竞争
10.提升美国在海外的领导力
11.确保政府负责任地有效使用人工智能

四、人工智能安全和安保新标准：

通过这项行政令，拜登指示采取有史以来最广泛的行动，保护美国人免受人工智能系统潜在风险的影响：
要求最强大的人工智能系统的开发者与美国政府分享其安全测试结果和其他重要信息。
根据《国防生产法》， 该命令将

  • 要求开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司在训练模型时必须通知联邦政府

  • 必须共享所有红队安全测试的结果。

  • 确保人工智能系统在公司公开之前是安全、可靠和值得信赖的。

根据这一规定，美国政府将更加强有力的控制和监管“最强大的人工智能系统的开发者”。

五、提升美国人工智能领域海外领导力：

  • 扩大双边、多边和多方利益相关者，牵头搭建人工智能国际框架

  • 与国际合作伙伴和标准组织加快制定标准

  • 促进安全、负责任和权利确认的人工智能开发和部署，解决全球挑战

白宫将“国外”先进网络武器的快速发展视为人工智能带来的最重大风险之一，行政令强调了“在人工智能领域扩大双边、多边和多方利益攸关方的合作”的重要性，旨在将美国定位为人工智能政策的全球领导者。而在此行政令发布之前，G7在10月29日就开发先进人工智能系统的公司行为准则达成一致，各国政府寻求减轻该技术的风险和潜在滥用。英国人工智能安全峰会将于2天后举行，美国这一行政令将为英国峰会定下基调，并可能鼓励欧盟最终确定其人工智能法案，因为该行政命令发出了一个明确的信息，即美国同意欧盟的许多政策目标。

六、制定标准、工具和测试，建立检测人工智能生成内容和认证官方内容的标准和最佳实践：

  • 成立人工智能安全和安保委员会

  • 关注人工智能系统对关键基础设施的威胁

  • 制定内容认证和水印指南，明确标注人工智能生成的内容。

  • 建立先进的网络安全计划

  • 制定国家安全备忘录，指导人工智能安全行动

  • 依据标准与实践将帮助美国军方和情报界有效使用人工智能，打击对手在人工智能的使用

七、隐私、权利保护：

  • 加速隐私保护技术的开发和使用支持

  • 评估机构如何收集和使用商业信息

  • 解决算法歧视问题；确保整个刑事司法系统的公平性

  • 推动AI在医疗与教育中持续发挥更大作用

  • 编写人工智能对劳动力市场潜在影响报告，提高AI对工人的好处

八、促进创新和竞争：

  • 借助国家AI研究院资源试点促进美国多地AI研究

  • 促进公平、开放和有竞争力的人工智能生态系统，为小型开发者和企业家提供技术援助和资源

  • 帮助小型企业将人工智能突破商业化

  • 简化签证标准、面试和审查，加强相关人才在美国学习、居留和工作的能力。

九、确保政府负责任地有效使用人工智能：

  • 发布各机构使用人工智能的指南

  • 通过更快、更高效的合同签订更快获得人工智能产品和服务。

  • 加快人工智能专业人才的快速招聘，为各机构提供相关培训

十、美国加深与国际联系具体情况：

  • 建立强有力的国际框架来管理人工智能的发展和使用。

  • 美国在人工智能领域已与澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国进行接触。

  • 此次行动指示将作为日本领导七国集团广岛进程、英国人工智能安全峰会等国际讨论的支持和补充

02

全文信息点标注与拆解


《情况说明书：拜登总统发布关于安全、可靠和值得信赖的人工智能的行政命令》

来源：美国白宫网站
翻译：DPOHUB数据保护官（微信公众号@数据法盟 ）
拜登总统发布一项具有里程碑意义( landmark)的行政令，
以确保美国在人工智能（AI）的发展前景和管理其风险方面处于领先地位。
作为拜登-哈里斯政府负责任创新综合战略的一部分，
该行政令建立在总统之前采取的行动基础之上，包括促使 15 家领先公司自愿承诺推动安全、可靠和可信的人工智能发展的工作。
该行政令指示采取以下行动：
（1）人工智能安全（Safety）和安保（Security）新标准
随着人工智能能力的增长，它对美国人的安全和安保也产生了影响。
通过这项行政令，总统指示采取有史以来最广泛的行动，保护美国人免受人工智能系统潜在风险的影响：
要求最强大的人工智能系统的开发者与美国政府分享其安全测试结果和其他重要信息。
根据《国防生产法》， 该命令将
  • 要求开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司在训练模型时必须通知联邦政府
  • 必须共享所有红队安全测试的结果。
  • 确保人工智能系统在公司公开之前是安全、可靠和值得信赖的。
（2）制定标准、工具和测试，帮助确保人工智能系统安全、可靠和可信。
  • 美国国家标准与技术研究院将为广泛的红队测试制定严格的标准，确保在公开发布前的安全性。
  • 国土安全部将使标准应用于关键基础设施部门，并成立人工智能安全和安保委员会。
  • 能源部和国土安全部还将应对人工智能系统对关键基础设施的威胁，以及化学、生物、辐射、核和网络安全风险。
  • 这将是有史以来任何政府为推进人工智能安全领域所采取的最重大的行动。
（3）通过制定强有力的生物合成筛选新标准，防范利用人工智能设计危险生物材料的风险 。
  • 资助生命科学项目的机构会将标准作为联邦资助的条件之一
  • 形成强大的激励机制，确保进行适当的筛选，
  • 管理可能因人工智能而恶化的风险。
（4）通过建立检测人工智能生成内容和认证官方内容的标准和最佳实践，保护美国人免受人工智能带来的欺诈和欺骗。
  • 商务部将制定内容认证和水印指南，明确标注人工智能生成的内容。
  • 联邦机构将使用这些工具，为私营部门和世界各国政府树立榜样。
  • 建立先进的网络安全计划，开发人工智能工具来查找和修复关键软件中的漏洞。
  • 国家安全委员会和白宫办公厅主任制定国家安全备忘录，指导有关人工智能和安全的进一步行动。
  • 确保美国军方和情报界在执行任务时安全、合乎道德和有效地使用人工智能，并将指导采取行动，打击对手在军事上使用人工智能。
（5）保护美国人的隐私
  • 联邦应优先支持加快开发和使用保护隐私的技术，包括使用尖端人工智能的技术，
  • 让人工智能系统在训练的同时保护训练数据隐私的技术。
  • 加强隐私保护研究和技术，如保护个人隐私的加密工具，
  • 为研究协调网络提供资金，以推动快速突破和发展。
  • 国家科学基金会还将与该网络合作，推动联邦机构采用前沿的隐私保护技术。
  • 评估各机构如何收集和使用商业可用信息
  • 加强对联邦机构的隐私指导，以考虑到人工智能的风险。
  • 为联邦机构制定指导方针，以评估隐私保护技术的有效性
  • 推动各机构保护美国人数据的工作。
（6）促进公平和公民权利
不负责任地使用人工智能可能会导致并加深司法、医疗保健和住房领域的歧视、偏见和其他弊端。拜登-哈里斯政府发布《人工智能权利法案蓝图》，并发布行政命令，指示各机构打击算法歧视，同时执行现有授权以保护人们的权利和安全。为确保人工智能促进公平和公民权利，总统指示采取以下额外行动：
  • 为房东、联邦福利计划和联邦承包商提供明确指导，防止人工智能算法被用于加剧歧视。
  • 通过培训、技术援助以及司法部和联邦民权办公室之间就调查和起诉与人工智能有关的侵犯民权行为的最佳做法进行协调，解决算法歧视问题。
  • 通过制定在判刑、假释和缓刑、审前释放和拘留、风险评估、监视、犯罪预测和预测性警务以及法医分析中使用人工智能的最佳实践，确保整个刑事司法系统的公平性。
（7）支持消费者、患者和学生
人工智能能为消费者带来实实在在的好处--例如，它能让产品变得更好、更便宜、更普及。但是，人工智能也会增加伤害、误导或以其他方式损害美国人的风险。为了保护消费者，同时确保人工智能能让美国人生活得更好，总统指示采取以下行动：
  • 推动人工智能在医疗保健领域的负责任使用，开发负担得起的救命药物。
  • 卫生与公众服务部还将制定一项安全计划，接收涉及人工智能的伤害或不安全医疗行为的报告，并采取行动予以补救。
  • 通过创造资源来支持教育工作者部署人工智能教育工具，如学校中的个性化辅导，从而发挥人工智能改变教育的潜力。
（8）支持劳动者
人工智能正在改变美国的工作和工作场所，既带来了提高生产率的希望，也带来了工作场所监控增加、偏见和工作流失的危险。为了降低这些风险，支持工人集体谈判的能力，并投资于所有人都能获得的劳动力培训和发展，总统指示采取以下行动：
  • 制定原则和最佳实践，通过解决工作转移、劳动标准、工作场所公平、健康和安全以及数据收集等问题，减少人工智能对工人的伤害，最大限度地提高人工智能对工人的益处。
  • 原则和最佳做法将为工人提供指导，防止雇主对工人的补偿不足、对求职申请的评估不公或影响工人的组织能力，从而使工人受益。
  • 编写一份关于人工智能对劳动力市场潜在影响的报告，研究并确定加强联邦对面临劳动力中断（包括来自人工智能的中断）的工人的支持的方案。
（9）促进创新和竞争
美国在人工智能创新方面已经处于领先地位--去年在美国首次融资的人工智能初创企业数量超过了其后的七个国家的总和。该行政令通过以下行动确保我们继续在创新和竞争方面处于领先地位：
  • 通过 "国家人工智能研究资源"（National AI Research Resource）的试点，在全美范围内推动人工智能研究--该工具将为人工智能研究人员和学生提供获取关键人工智能资源和数据的途径，扩大对医疗保健和气候变化等重要领域人工智能研究的拨款。
  • 促进公平、开放和有竞争力的人工智能生态系统，为小型开发者和企业家提供获得技术援助和资源的机会，帮助小型企业将人工智能突破商业化，并鼓励联邦贸易委员会行使其权力。
  • 利用现有授权，通过现代化和简化签证标准、面试和审查，扩大在关键领域拥有专业知识的高技能移民和非移民在美国学习、居留和工作的能力。
（10）提升美国在海外的领导力
人工智能的挑战和机遇是全球性的。拜登-哈里斯政府将继续与其他国家合作，支持在全球范围内安全、可靠地部署和使用人工智能。为此，总统指示采取以下行动：
  • 扩大双边、多边和多方利益相关者的参与，就人工智能开展合作。国务院将与商务部合作，牵头建立强有力的国际框架，以利用人工智能的益处，管理其风险并确保安全。
  • 与国际合作伙伴和标准组织一起加快制定和实施重要的人工智能标准，确保技术安全、可靠、可信和可互操作。
  • 在国外促进安全、负责任和权利确认的人工智能开发和部署，以解决全球挑战
（11）确保政府负责任地有效使用人工智能
人工智能可以帮助政府为美国人民提供更好的成果。它可以扩大各机构的监管、治理和福利发放能力，还可以降低成本并提高政府系统的安全性。然而，使用人工智能也可能带来风险，如歧视和不安全的决策。为确保政府负责任地部署人工智能并使联邦人工智能基础设施现代化，总统指示采取以下行动：
  • 发布各机构使用人工智能的指南，包括保护权利和安全的明确标准，改善人工智能采购，加强人工智能部署。
  • 通过更快、更高效的合同签订，帮助各机构更快、更便宜、更有效地获得指定的人工智能产品和服务。
  • 加快人工智能专业人才的快速招聘，作为由人事管理办公室、美国数字服务部、美国数字军团和总统创新奖学金领导的全政府人工智能人才激增计划的一部分。各机构将为相关领域的各级员工提供人工智能培训。
  • 当我们在国内推进这一议程时，政府将与国外的盟友和伙伴合作，建立一个强有力的国际框架来管理人工智能的发展和使用。
  • 在过去的几个月里，政府已经就人工智能治理框架进行了广泛磋商--与澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国进行了接触。
  • 采取的行动是对日本领导七国集团广岛进程、英国人工智能安全峰会、印度作为人工智能全球伙伴关系主席国所发挥的领导作用以及联合国正在进行的讨论的支持和补充。
拜登总统今天指示的行动是美国在安全、可靠和值得信赖的人工智能方面向前迈出的重要一步。还需要采取更多的行动，政府将继续与国会合作，寻求两党立法，以帮助美国在负责任的创新方面处于领先地位。


推荐阅读


主理人：刘典

编辑：赵杨博

校审：王祚

终审：梁正   鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。



新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

内容中包含的图片若涉及版权问题，请及时与我们联系删除