点击蓝字

关注我们




前言



9月19日，联合国人工智能高级咨询机构发布最终报告《为人类治理人工智能》（Governing AI for Humanity）。此前在2023年12月21日，联合国人工智能咨询机构就《以人为本的人工智能治理》（Governing AI for Humanity）征求公众意见，公开征询意见截止时间为2024年3月31日。与临时报告相比，正式版的报告在经过广泛的全球咨询和反馈后，围绕建立国际科学小组、在联合国框架内开展新的AI治理政策对话、创建全球AI能力发展网络、建立全球AI基金、促进全球AI数据框架、以及在联合国秘书处内设立小型AI办公室等七方面，提出了更具体的建议和行动方案。


— 相关链接 —




提出背景


联合国最新报告《Governing AI for Humanity》的背景是在全球范围内对人工智能（AI）的快速发展及其对社会各方面的深远影响的认识。这份报告由联合国秘书长的高级咨询小组（HLAB-AI）发布，旨在提出全球AI治理的建议，以确保AI的发展能够惠及全人类，并保护人权。


在人工智能（AI）技术的快速发展和广泛应用背景下，全球对AI带来的机遇和挑战的认识日益加深。AI技术在推动科学发现、优化资源使用、协助日常任务、缓解劳动力短缺等方面展现出巨大潜力，尤其在农业、医疗保健、环境保护等领域的应用前景广阔。然而，AI的发展也伴随着风险，如可能加剧偏见、扩大监控范围、模糊决策责任、传播虚假信息等。此外，AI的好处和风险并没有公平地分配给所有人群，存在着“数字鸿沟”和“发展鸿沟”。


当前，AI的发展不平衡问题显著，技术的研发和应用主要集中在少数科技巨头手中，这导致了经济不平等和垄断问题。AI技术的发展依赖于大量数据的收集和共享，但数据隐私和安全问题成为全球治理的重要难题。不同国家在政治制度、文化背景和社会价值观上存在显著差异，这些差异导致各国对AI治理的优先事项和方法存在分歧。AI技术本身的复杂性和快速发展使得全球治理更加困难，传统的立法和监管手段难以跟上技术进步的步伐。


各国在七项非联合国人工智能倡议中的参与度

因此，需要全球性的治理框架来确保AI的负责任使用，并促进全球公平和可持续发展。报告旨在提出全球AI治理的建议，以确保AI的发展能够惠及全人类，并保护人权。报告的核心内容是建议通过执行七项关键职能来加强人工智能的国际治理，例如风险的水平扫描和支持数据、计算能力和人才方面的国际合作以推动实现可持续发展目标。报告还建议加强问责制并确保所有国家拥有平等的话语权。


报告提出的指导原则包括包容性、公共利益、数据治理的中心地位、普遍化和多利益攸关方的参与以及基于国际法的治理。这些原则旨在确保AI技术的发展和应用能够符合全人类的利益，并在全球范围内得到负责任的管理和应用。



内容比较


与临时报告相比，正式版的报告在经过广泛的全球咨询和反馈后，提出了更具体的建议和行动方案。正式报告提出了七个关键建议，包括建立国际科学小组、在联合国框架内开展新的AI治理政策对话、创建全球AI能力发展网络、建立全球AI基金、促进全球AI数据框架、以及在联合国秘书处内设立小型AI办公室等。这些建议旨在解决当前AI治理安排中的差距，并推动全球合作。


临时报告则更多地集中在初步分析和原则建议上，它提出了AI治理应遵循的一些指导原则，如包容性、公共利益、与数据治理相结合、普遍性和网络化、以及与联合国宪章和国际人权法相一致等。临时报告还强调了AI治理的全球治理赤字，并提出了一些初步的建议和下一步的行动方向。


总的来说，正式报告在临时报告的基础上，通过更深入的分析和广泛的咨询，提出了更详细的全球AI治理框架和实施建议。这些建议旨在确保AI的发展能够符合全人类的利益，并在全球范围内得到负责任的管理和应用。



选民互动的变化


生成式人工智能正在通过个性化内容推荐和对话系统彻底改变选举中与选民互动的方式。AI驱动的聊天机器人可以与选民进行实时对话，回答问题、收集反馈，并根据选民的兴趣和偏好推送定制化信息。候选人能够利用AI技术精确定位受众，避免浪费资源在已定支持者或反对者身上，而是集中力量说服摇摆不定的选民。由于美国政治的高度两极分化，选民中仅有一小部分表示犹豫不决。美国公共影响中心发布的报告显示，AI通过分析选民的社交媒体数据和心理特征，针对性推送个性化的政治广告和信息。然而，这种技术也引发了对竞选活动隐蔽性和信息不诚实的担忧，因为不同选民可能接收到截然不同的信息，影响选举的透明性和公正性。
同时，在选民信息认知的“混战”中，AI生成的虚假信息呈指数级增长，干扰了选民的自主决策，使投票结果无法真实反映选民的意图。近一半美国人对AI可能被新闻机构滥用表示担忧，特别是在选举期间，错误信息可能导致选民无法正确获取投票时间和地点，影响投票率。这表明AI的介入还可能导致选举系统的可信度下降。根据美国媒体披露，一些美国选民曾接到伪造的“拜登”机器人语音电话，内容呼吁选民推迟投票，意图阻止共和党在初选中获胜。特别是在新罕布什尔州的共和党初选期间。白宫确认这些电话是伪造的，而一家名为“十一实验室”的人工智能初创公司被指技术被滥用于制作这些录音。该公司已关闭相关用户账户，并声明将严肃对待AI滥用的问题。相关调查显示，几乎一半的美国人认为AI生成的错误信息会影响2024年大选结果，许多人因此对选举结果失去信心。技术进步可能会冲击美国政治制度，导致更广泛的政治冷漠和对选举合法性的质疑。


具体建议


建议 1 人工智能国际科学小组

我们建议建立一个独立的人工智能国际科学小组，由该领域的不同多学科专家自愿以个人身份服务。在拟议的联合国人工智能办公室和其他相关联合国机构的支持下，与其他相关国际组织合作，其任务将包括：

a）发布年度报告，调查人工智能相关能力、机遇、风险和不确定性，确定对技术趋势达成科学共识的领域和需要额外研究的领域;

b）就人工智能可以帮助实现可持续发展目标的领域编写季度专题研究摘要，重点关注可能服务不足的公共利益领域;

c）就新出现的问题发布特别报告，特别是治理环境中出现的新风险或重大差距。


建议 2 关于人工智能治理的政策对话

我们建议在联合国现有会议的间隙启动一年两次的关于AI 治理的政府间和多利益相关方政策对话。其目的是：

a)   分享人工智能治理的最佳实践，促进发展，同时进一步尊重、保护和实现所有人权，包括寻求机会和管理风险;

b)   促进私营和公共部门开发者和用户对实施人工智能治理措施的共识，以增强人工智能治理的国际互操作性;

c)   自愿分享超出国家机构应对能力的重大人工智能事件;

d)   讨论国际科学小组关于AI的报告。


建议 3 人工智能标准交流

我们建议创建一个人工智能标准交流平台，汇集来自国家和国际标准开发组织、技术公司、民间社会以及国际科学小组的代表。该平台的任务包括：

a) 开发和维护一个用于测量和评估人工智能系统的定义和适用标准登记册；

b) 讨论和评估标准及其创建过程；

c) 识别需要新标准的差距。


人工智能标准数量


建议 4 能力发展网络

我们建议创建一个人工智能能力发展网络，将一系列合作的、与联合国有关联的能力发展中心联系起来，为关键参与者提供专业知识、计算能力和人工智能训练数据。该网络的目的是：a) 通过支持它们之间的网络建设，催化和协调区域和全球人工智能能力工作；b) 建立公职人员的人工智能治理能力，以促进发展，同时进一步尊重、保护和实现所有人权；c) 向研究人员和社会企业家提供培训师、计算能力和人工智能训练数据，以便他们将人工智能应用于本地公共利益用例，包括通过：   i) 允许跨学科研究团队和企业家在计算资源稀缺的环境中，通过协议访问用于训练/调整和适当应用其模型的计算资源；   ii) 沙盒环境，用于测试潜在的人工智能解决方案并通过实践学习；   iii) 针对大学生、年轻研究人员、社会企业家和公共部门官员的一系列在线人工智能教育机会；   iv) 为有前途的个人提供在学术机构或技术公司中度过一段时间的奖学金计划。


建议5 全球人工智能基金

我们建议为人工智能创建一个全球基金，以消除人工智能鸿沟。该基金由一个独立的治理结构管理，将接受来自公共和私人来源的财政和实物捐助，并通过能力发展网络等方式进行支付，以促进获得人工智能推动者，从而促进当地赋权，以实现可持续发展目标，包括:

a) 共享计算资源，供当地能力不足或无法获取的国家的人工智能开发人员进行模型培训和微调;

b) 沙盒、基准测试和测试工具，将安全可靠的模型开发和数据治理的最佳实践纳入主流;

c) 具有全球适用性的治理、安全和互操作性解决方案;

d) 数据集以及如何将数据和模型结合起来用于可持续发展目标相关项目的研究;

e) 用于SDGs的人工智能模型和策划数据集的存储库。


建议6 全球人工智能数据框架

我们建议创建一个全球人工智能数据框架，由相关机构（如联合国国际贸易法委员会）发起，并参考其他国际组织的工作，用于：

a) 概述与全球人工智能训练数据治理相关的数据定义和原则，包括从现有最佳实践中提炼出的原则，并促进文化和语言多样性；

b) 建立关于人工智能训练数据来源和使用的共同标准，以实现跨司法管辖区的透明和基于权利的问责制；

c) 建立市场塑造的数据管理和交换机制，以促进全球范围内繁荣的本地人工智能生态系统，例如：

i) 数据信托；

ii) 管理良好的全球匿名数据交换市场，用于训练人工智能模型；

iii) 促进国际数据访问和全球互操作性的模型协议，可能作为框架的技术法律协议。


建议7 秘书处内人工智能办事处

我们建议在秘书处内设立一个人工智能办公室，向秘书长报告。它应该是轻量级的组织，尽可能利用相关的现有联合国实体。作为支持和催化本报告中提议的“粘合剂”，与其它流程和机构合作和对接，该办公室的任务将包括：

a) 为拟议的国际科学小组、政策对话、标准交流、能力发展网络以及必要时的全球基金和全球人工智能数据框架提供支持；

b) 就新兴的人工智能问题与不同的利益相关者进行外联，包括技术公司、民间社会和学术界；

c) 就与人工智能相关的事宜向秘书长提供咨询，与联合国系统的其他相关部门协调，提供整个联合国的响应。


主理人丨刘典
编辑 | 王瑾瑜
排版丨须嘉慧
审核丨梁正 鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。



新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

内容中包含的图片若涉及版权问题，请及时与我们联系删除