【AI国际治理知识库】
（下划浏览）
在全球化和技术革新浪潮中，人工智能作为一种颠覆性的技术力量，正在深刻改变全球经济结构和社会秩序，并引发了广泛的关注和一系列复杂的治理挑战。随着AI技术的快速发展和广泛应用，建立有效的国际治理框架变得尤为迫切。AI国际治理知识库关注全球视野下人工智能国际治理的关键趋势与地缘政治背景下的科技和数字治理问题，为关注相关问题的朋友提供及时、有效、严谨、全面的知识信息。
2024年3月21日，联合国大会未经表决一致通过了一项具有里程碑意义的决议，呼吁抓住“安全、可靠和值得信赖的”人工智能系统带来的机遇，让人工智能给人类带来“惠益”，并以此促进可持续发展。据悉，这是联合国大会首次就监管人工智能这一新兴领域通过决议。决议草案由美国提交，同时还有120多个会员国成为“共同提案国”或表达支持。 1.人工智能系统的新定义及要求
2.人工智能系统的优缺点分析
3.人工智能系统治理的必要性分析
4.人工智能系统治理的10点具体措施
2024年3月21日，联合国大会通过了“抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展”为主题的决议草案，草案主要体现了对人工智能发展的全面考量，既关注技术创新和经济发展，也重视人权保护、社会公平和文化多样性。鼓励各方在人工智能的发展和应用中，秉持开放、合作、包容和公平的原则，共同推动人工智能技术的健康、可持续发展。同时，也提醒各方在人工智能的发展和应用中，要警惕潜在的风险和挑战，确保人工智能技术真正造福人类。草案表示，各国认识到，“人工智能系统的设计、开发、部署和使用速度加快，技术变革日新月异，对加快实现可持续发展目标具有潜在影响”。为此，大会“决心促进安全、可靠和值得信赖的人工智能系统，以在全面实现《2030年可持续发展议程》方面加快取得进展”。
值得注意的是，决议草案由美国提交，同时还有120多个会员国成为“共同提案国”或表达支持。这一举动突显了两方面的情况。首先，可以观察到美国在过去几年人工智能治理领域的缺乏积极推动，这一现状在此次提出决议草案中得以突破。其次，可以推断出美国对人工智能领域的立法和规范产生了急迫感，这或许与去年欧盟通过的《人工智能法案》有关。这一举措凸显了美国政府对人工智能治理问题的重视，并表明其在全球舞台上对人工智能治理领域的立场和态度。
安全、可靠和值得信赖的人工智能系统——就本决议而言是指非军事领域的人工智能系统，其生命周期包括前期设计、设计、开发、评价、测试、部署、使用、销售、采购、运行和淘汰等阶段——必须以人为本、可靠、可解释、符合道德、具有包容性，充分尊重、促进和保护人权和国际法，保护隐私、面向可持续发展和负责任。这些系统可以加速和推动在实现所有 17 项可持续发展目标方面取得进展以及通过平衡和统筹兼顾的方式从经济、社会和环境这三个方面实现可持续发展；促进和保护人人享有人权和基本自由，同时坚持以人为本不当或恶意地设计、开发、部署和使用人工智能系统——例如在没有适当保障措施或不符合国际法的情况下——构成风险，可能阻碍在实现《2030 年可持续发展议程》及其可持续发展目标方面取得进展，不利于从经济、社会和环境这三个方面实现可持续发展；削弱对人权和基本自由的保护、促进和享有，包括个人隐私不受非法或任意干涉的权利；
人工智能系统的设计、开发、部署和使用速度加快，技术变革日新月异，对加快实现可持续发展目标具有潜在影响，因此强调指出迫切需要就安全、可靠和值得信赖的人工智能系统达成全球共识；推动开展包容性国际合作，制定和使用有效、具有国际互操作性的保障措施、做法和标准，以促进创新，防止对安全、可靠和值得信赖的人工智能系统的治理不成体系。认识到目前存在人工智能和其他数字方面的鸿沟，国家之间和国家内部的技术发展水平参差不齐，发展中国家在跟上这一迅速加速的步伐方面面临独特挑战，这对可持续发展造成障碍，需要消除发达国家与发展中国家之间在条件、可能性和能力方面的现有差距，因此，又强调指出迫切需要在能力建设及技术和财政方面加强对发展中国家的援助，以消除国家之间和国家内部的数字鸿沟，支持发展中国家有效、公平和有意义地参与人工智能系统治理方面的国际进程和论坛并拥有代表权。人工智能系统治理是一个不断发展变化的领域，需要随着技术和我们对技术的认识不断提高，继续讨论可能采取的适当治理办法，这些办法必须以国际法为基础，具有互操作性、灵活性、适应性、包容性，能够满足发达国家和发展中国家的不同需求和能力，并使所有人受益。人工智能系统治理的10点具体措施
在过去的几十年中，人工智能（AI）已经从边缘的科技概念成长为驱动社会变革的关键力量。随着AI技术的快速发展，全球范围内的政府、企业和研究机构都在积极制定战略，力图在这场技术革命中获得领先地位。AI的广泛应用前景预示着从经济发展模式到国际关系格局的全面重塑。在全球一体化的背景下，AI技术的发展已经成为跨国界的共同议题，涉及全球治理和国际合作的多个层面。
2023年10月18日，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中宣布中方将提出《全球人工智能治理倡议》，同日，中央网信办发布《全球人工智能治理倡议》，《倡议》围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案，提出11项倡议，包括：坚持“以人为本”、尊重他国主权、坚持“智能向善”、坚持平等互利、推动建立风险等级测试评估体系、逐步建立健全法律和规章制度、坚持公平性和非歧视性原则、坚持伦理先行、坚持广泛参与&协商一致&循序渐进的原则、积极发展相关技术开发与应用、增强发展中国家的代表性和发言权等。
中国人工智能政策梳理请点击文字链接查看详细内容：2023人工智能大事件回顾丨中国AI政策篇
美国总统拜登2023年 10月30日发布的行政命令显示，人工智能监管将于2024年成为美国的政治和监管焦点，并且要求各种规模的公司承担相应的责任。目前，行政命令仅仅为人工智能监管划定了原则和方向，建议针对生成式人工智能解决方案区分“红队”，特别是在消费者健康和安全、敏感信息隐私（健康、财务、身份认证、生物识别等）以及就业等高风险领域。
美国人工智能治理动态点击链接查看详细内容：2024美国人工智能立法展望
2023年12月，欧盟通过具有里程碑意义的《人工智能法案》，旨在为人工智能的约束性、硬性监管树立先例，反映出对以人为本、值得信赖和基于风险的监管的承诺。
2023年10月，七国集团领导人发布“人工智能治理原则和行为准则”。基于5月的“广岛人工智能进程”部长级论坛，七国集团领导人就开发先进人工智能（AI）系统的公司的行为准则达成一致。这套行为准则共包含11项内容，旨在推广全球范围内的安全、可靠和值得信赖的人工智能，并将为开发最先进的人工智能系统的组织提供自愿行动指南，包括最先进的基础模型和生成性人工智能系统。2023年11月，英国举办人工智能安全峰会。11月1日，首届全球人工智能安全峰会1日在英国布莱奇利园召开。美国、英国、欧盟、中国、印度等多方代表将在两天会期内，就人工智能技术快速发展带来的风险与机遇展开讨论。峰会发布《布莱奇利宣言》，来自美国和中国等28个国家的代表同意共同努力，遏制人工智能飞速发展带来的潜在“灾难性”风险。2023年12月，清华大学、香港科技大学联合主办2023人工智能合作与治理国际论坛。本次论坛以“构建人工智能全球治理框架”为主题，汇聚来自全球人工智能领域的顶级专家学者、政府代表、国际组织和企业人士，就应对生成式人工智能等前沿技术挑战，探索制定人工智能全球治理框架，助力构建以人为本、包容、和谐、可持续的世界展开研讨。人工智能国际治理大事件回顾请点击链接查看详细内容：2023人工智能大事件回顾丨国际治理篇主编丨刘典
副主编丨王祚
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
微信视频号：THU-AIIG
Bilibili：清华大学AIIG
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢