【全球AI战略洞察】栏目由清华大学人工智能国际治理研究院推出,旨在通过对当前人工智能领域发生的重要信息进行“标注、提炼、解读”,剖析全球AI治理各国家间不同的战略图景,以此描绘人工智能治理领域的国际格局。
栏目主理人:刘典
复旦大学中国研究院副研究员、清华大学人工智能国际治理研究院战略与宏观研究项目主任
2023年10月30日,美国总统拜登签署了美国迄今为止最全面的人工智能监管原则,该行政令涉及范围之广,内容全面,针对美国内部人工智能治理,国际人工智能联结都做出了详细的指示。
以下是行政令的要点内容和原文标注:
一、据白宫官网上关于本次行政令的内容,其中写到
二、AI.gov成为美国未来AI战略官方信息中枢渠道

拥有特定专业学士学位并希望在类似专业工作的个人——H-1B签证
希望参加交流访问者计划的个人——J-1签证
跨国组织的经理或高管员工——L-1A签证
具有专业知识的跨国组织的员工——L-1B签证
在科学、教育或商业方面具有非凡能力的个人——O-1签证
在科学、教育或商业方面具有非凡能力的个人——EB-1A签证
杰出教授或研究员——EB-1B签证
跨国公司经理或高管——EB-1C签证
在科学或商业(包括人工智能)方面具有高级学位或特殊能力的个人——EB-2签证
技术工人、专业人员或其他工人——EB-3签证
三、行政令指示采取行动包括以下十一项内容
四、人工智能安全和安保新标准:
要求开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司在训练模型时必须通知联邦政府
必须共享所有红队安全测试的结果。
确保人工智能系统在公司公开之前是安全、可靠和值得信赖的。
五、提升美国人工智能领域海外领导力:
扩大双边、多边和多方利益相关者,牵头搭建人工智能国际框架
与国际合作伙伴和标准组织加快制定标准
促进安全、负责任和权利确认的人工智能开发和部署,解决全球挑战
六、制定标准、工具和测试,建立检测人工智能生成内容和认证官方内容的标准和最佳实践:
成立人工智能安全和安保委员会
关注人工智能系统对关键基础设施的威胁
制定内容认证和水印指南,明确标注人工智能生成的内容。
建立先进的网络安全计划
制定国家安全备忘录,指导人工智能安全行动
依据标准与实践将帮助美国军方和情报界有效使用人工智能,打击对手在人工智能的使用
七、隐私、权利保护:
加速隐私保护技术的开发和使用支持
评估机构如何收集和使用商业信息
解决算法歧视问题;确保整个刑事司法系统的公平性
推动AI在医疗与教育中持续发挥更大作用
编写人工智能对劳动力市场潜在影响报告,提高AI对工人的好处
八、促进创新和竞争:
借助国家AI研究院资源试点促进美国多地AI研究
促进公平、开放和有竞争力的人工智能生态系统,为小型开发者和企业家提供技术援助和资源
帮助小型企业将人工智能突破商业化
简化签证标准、面试和审查,加强相关人才在美国学习、居留和工作的能力。
九、确保政府负责任地有效使用人工智能:
发布各机构使用人工智能的指南
通过更快、更高效的合同签订更快获得人工智能产品和服务。
加快人工智能专业人才的快速招聘,为各机构提供相关培训
十、美国加深与国际联系具体情况:
建立强有力的国际框架来管理人工智能的发展和使用。
美国在人工智能领域已与澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国进行接触。
此次行动指示将作为日本领导七国集团广岛进程、英国人工智能安全峰会等国际讨论的支持和补充
全文信息点标注与拆解
《情况说明书:拜登总统发布关于安全、可靠和值得信赖的人工智能的行政命令》
要求开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司在训练模型时必须通知联邦政府 必须共享所有红队安全测试的结果。 确保人工智能系统在公司公开之前是安全、可靠和值得信赖的。
美国国家标准与技术研究院将为广泛的红队测试制定严格的标准,确保在公开发布前的安全性。 国土安全部将使标准应用于关键基础设施部门,并成立人工智能安全和安保委员会。 能源部和国土安全部还将应对人工智能系统对关键基础设施的威胁,以及化学、生物、辐射、核和网络安全风险。 这将是有史以来任何政府为推进人工智能安全领域所采取的最重大的行动。
资助生命科学项目的机构会将标准作为联邦资助的条件之一 形成强大的激励机制,确保进行适当的筛选, 管理可能因人工智能而恶化的风险。
商务部将制定内容认证和水印指南,明确标注人工智能生成的内容。 联邦机构将使用这些工具,为私营部门和世界各国政府树立榜样。 建立先进的网络安全计划,开发人工智能工具来查找和修复关键软件中的漏洞。 国家安全委员会和白宫办公厅主任制定国家安全备忘录,指导有关人工智能和安全的进一步行动。 确保美国军方和情报界在执行任务时安全、合乎道德和有效地使用人工智能,并将指导采取行动,打击对手在军事上使用人工智能。
联邦应优先支持加快开发和使用保护隐私的技术,包括使用尖端人工智能的技术, 让人工智能系统在训练的同时保护训练数据隐私的技术。 加强隐私保护研究和技术,如保护个人隐私的加密工具, 为研究协调网络提供资金,以推动快速突破和发展。 国家科学基金会还将与该网络合作,推动联邦机构采用前沿的隐私保护技术。 评估各机构如何收集和使用商业可用信息 加强对联邦机构的隐私指导,以考虑到人工智能的风险。 为联邦机构制定指导方针,以评估隐私保护技术的有效性 推动各机构保护美国人数据的工作。
为房东、联邦福利计划和联邦承包商提供明确指导,防止人工智能算法被用于加剧歧视。 通过培训、技术援助以及司法部和联邦民权办公室之间就调查和起诉与人工智能有关的侵犯民权行为的最佳做法进行协调,解决算法歧视问题。 通过制定在判刑、假释和缓刑、审前释放和拘留、风险评估、监视、犯罪预测和预测性警务以及法医分析中使用人工智能的最佳实践,确保整个刑事司法系统的公平性。
推动人工智能在医疗保健领域的负责任使用,开发负担得起的救命药物。 卫生与公众服务部还将制定一项安全计划,接收涉及人工智能的伤害或不安全医疗行为的报告,并采取行动予以补救。 通过创造资源来支持教育工作者部署人工智能教育工具,如学校中的个性化辅导,从而发挥人工智能改变教育的潜力。
制定原则和最佳实践,通过解决工作转移、劳动标准、工作场所公平、健康和安全以及数据收集等问题,减少人工智能对工人的伤害,最大限度地提高人工智能对工人的益处。 原则和最佳做法将为工人提供指导,防止雇主对工人的补偿不足、对求职申请的评估不公或影响工人的组织能力,从而使工人受益。 编写一份关于人工智能对劳动力市场潜在影响的报告,研究并确定加强联邦对面临劳动力中断(包括来自人工智能的中断)的工人的支持的方案。
通过 "国家人工智能研究资源"(National AI Research Resource)的试点,在全美范围内推动人工智能研究--该工具将为人工智能研究人员和学生提供获取关键人工智能资源和数据的途径,扩大对医疗保健和气候变化等重要领域人工智能研究的拨款。 促进公平、开放和有竞争力的人工智能生态系统,为小型开发者和企业家提供获得技术援助和资源的机会,帮助小型企业将人工智能突破商业化,并鼓励联邦贸易委员会行使其权力。 利用现有授权,通过现代化和简化签证标准、面试和审查,扩大在关键领域拥有专业知识的高技能移民和非移民在美国学习、居留和工作的能力。
扩大双边、多边和多方利益相关者的参与,就人工智能开展合作。国务院将与商务部合作,牵头建立强有力的国际框架,以利用人工智能的益处,管理其风险并确保安全。 与国际合作伙伴和标准组织一起加快制定和实施重要的人工智能标准,确保技术安全、可靠、可信和可互操作。 在国外促进安全、负责任和权利确认的人工智能开发和部署,以解决全球挑战
发布各机构使用人工智能的指南,包括保护权利和安全的明确标准,改善人工智能采购,加强人工智能部署。 通过更快、更高效的合同签订,帮助各机构更快、更便宜、更有效地获得指定的人工智能产品和服务。 加快人工智能专业人才的快速招聘,作为由人事管理办公室、美国数字服务部、美国数字军团和总统创新奖学金领导的全政府人工智能人才激增计划的一部分。各机构将为相关领域的各级员工提供人工智能培训。 当我们在国内推进这一议程时,政府将与国外的盟友和伙伴合作,建立一个强有力的国际框架来管理人工智能的发展和使用。 在过去的几个月里,政府已经就人工智能治理框架进行了广泛磋商--与澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国进行了接触。 采取的行动是对日本领导七国集团广岛进程、英国人工智能安全峰会、印度作为人工智能全球伙伴关系主席国所发挥的领导作用以及联合国正在进行的讨论的支持和补充。
主理人:刘典
编辑:赵杨博
校审:王祚
关于我们
清华大学人工智能国际治理研究院(Institute for AI International Governance, Tsinghua University,THU I-AIIG)是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势,研究院面向人工智能国际治理重大理论问题及政策需求开展研究,致力于提升清华在该领域的全球学术影响力和政策引领作用,为中国积极参与人工智能国际治理提供智力支撑。
新浪微博:@清华大学人工智能国际治理研究院
微信视频号:THU-AIIG
Bilibili:清华大学AIIG
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢