点击蓝字
关注我们
海外智库观察
为更好地防范人工智能技术带来的风险，同时促进其保持创新的步伐，各国政府出台了相关政策和法规以对其进行治理。美国作为世界上人工智能巨头集群最密集的国家，其人工智能政策尤为值得关注。受到“联邦制”政治制度的影响，美国联邦政府权力有限，美国联邦政府层面出台的人工智能治理政策存在诸多漏洞，各州地方政府和其他治理主体起到了重要的补充作用。本期海外智库观察关注美国加州政府对美国人工智能政策的引领作用，同时关注美国各州有关AI生成色情内容的立法实践。
布鲁金斯学会
Brookings Institute
加利福尼亚州将引领美国的人工智能治理
2024年6月4日，布鲁金斯学会发布了其治理研究高级研究员、技术创新中心主任Nicol Turner Lee和技术创新中心研究实习生Joshua Turner共同撰写的文章《加州能否填补联邦政府在前沿人工智能监管方面的空白（Can California fill the federal void on frontier AI regulation?）》。文章指出，以OpenAI公司在2022年11月发布了ChatGPT为标志，人工智能的通用性与其颠覆性获得了广泛关注，包括中国、欧盟、英国在内的政府已经制定了相关治理规范，美国也采取了措施制定人工智能治理议程。然而，美国的治理实践几乎均由行政部门实施，其监管权力有限，美国存在着人工智能（Artificial Intelligence, AI）立法缺失的不足。基于这一背景，美国各州成为新兴治理主体，其中，加利福尼亚州独具优势，有望对AI治理产生关键影响。
首先，作者指出，由于加利福尼亚州（以下简称“加州”）在AI技术方面的领先地位、该州庞大的经济体量和民主党对监管的偏好，其在影响美国联邦政府AI政策方面具有优势，并阐述了原因。首先，福布斯全球前50家AI公司中，包括OpenAI、Anthropic、Meta、xAI、Google和Microsoft等领先的前沿企业等在内的32家均在加州，这些主要AI开发商的存在，是加州成为推进负责任地使用AI政策的理想管辖区。其次，加州贡献了美国GDP的14.5%，其经济体量居于世界前列，使得加州作为AI前沿和重要经济体，有助于推动其州级监管和立法的制定。例如，加州可以要求前沿系统进行负责任地开发和部署，减轻恶意行为者盗取强大双用途模型的风险，并确保AI伤害的法律责任。此外，2024年2月，加州参议员斯科特·维纳提出了《前沿人工智能模型安全和保障创新法案》，该法案旨在减轻未来前沿模型带来的巨大潜在风险，包括预防大规模网络攻击的自动化和新型生物武器的生产等问题，并通过要求使用大量计算能力训练模型的开发者证明其系统的安全性来应对这些风险，为AI监管提供了基础框架。第三，相比联邦政府的立法，加州制定AI治理政策更加灵活、容易，因为民主党在加州政府成员构成中占据大多数，因而其在制定政策时不易陷入僵局或两极分化，并且加利福尼亚在通过开创性技术监管方面有着良好的记录可能使加州推进AI政策比在联邦层面更容易。
其次，作者指出，尽管加州拥有引领美国AI治理的良好前景，但其自身仍存在一些不足。首先，加州在推进AI治理的过程中，可能会面对受到监管公司削弱或规避相关政策的挑战，比如OpenAI和法国初创公司Mistral的游说成功地影响了欧盟的《人工智能法（AI Act）》，使其对自身业务有利。对此，作者建议加州的AI政策应适用对象应当扩展至所有在该州开展业务的公司，而非仅仅针对在加州注册的公司，这样企业将更难规避法规。第二，对州际AI业务实施广泛要求的法律可能会违反休眠商业条款。第三，受到作为州政府的固有限制，加州无法实现某些AI政策目标，也无法使用关键政策工具来保持美国的国际AI优势，例如对AI专用芯片实施出口控制或修改签证流程以吸引外国AI人才。它还在其他方面受到限制，例如追求国际合作或影响军事用途的能力。第四，即使加州的AI法律成功部分填补了国会不作为的监管空白，但它也可能干扰或阻止全面联邦立法的通过吗，因为国会中的加州人担心《2022年美国数据隐私和保护法案》虽然承诺为所有美国人提供全面的数据隐私保护，但事实上该法案为其选民提供的保护会比已实施的加利福尼亚消费者隐私法更弱。第五，加州还面临其他州政府的竞争，其并不是唯一一个寻求制定全国议程的州，还有如德克萨斯州和佛罗里达州，其一直在技术领域立法、制定法规并提起诉讼。与加州不同的是，这些地方由共和党主导，正在从保守的角度制定规则。各州如何解决彼此的分歧，以及科技公司在面对来自自由派和保守派州的相互竞争的指令时的应对措施，可能会限制任何一个州塑造国家格局的力量。
最后，作者指出，尽管存在上述潜在限制，加州仍有希望直接要求州内外进行负责任地AI开发和部署，并建议，加州立法不需要完全取代联邦立法，只需改善当前缺乏联邦立法的状况，充分发挥该州在AI行业中的影响力和经济体量的优势，推动AI技术的监管进程。无论如何，在未来几年内，加州将会继续发挥其在塑造美国AI政策反应方面的关键作用。在国会滞后而AI迅猛发展的情况下，加州可以帮助国家在要求负责任AI方面保持同步。
美国战略与国际研究中心
Center for Strategy and International Studies, CSIS
人工智能治理需要维护女性在数字时代的尊严与权利
2024年6月3日，美国战略与国际研究中心发布其华盛顿特区国际安全项目未来实验室研究员Jose M. Macias III、国际安全项目研究助理Audrey Aldisert和未来实验室高级研究员Benjamin Jensen共同撰写的文章《留下来承担人工智能的忧虑（Left to Shoulder the Worries of AI）》。文章强调了以人工智能技术为代表的新兴技术和网络的发展对女性带来的负面影响，认为女性将面临深度伪造技术的威胁，同时指出了当前对于女性受到“数字剥削”缺少相应的法律保护措施，并呼吁政策制定者加速政策制定的步伐，确保女性免受生成式人工智能带来的伤害。
首先，作者指出，随着人工智能（Artificial Intelligence, AI）、机器学习生成的图像和深度伪造技术的兴起，身份认同问题愈发凸显，网络舆情战争对女性的负面影响愈发深刻，对美国的政治体系带来了挑战。历史上，由于家庭抚养责任的约束、对女性身材外貌的苛刻要求以及系统性的经济劣势，女性往往面临更多的社会挑战。当前，随着互联网和社交媒体的兴起，女性群体所面对的尊严、权利、个体身份和福祉问题也受到了负面影响。具体而言，类似Facebook、Instagram的社交媒体平台影响了年轻女性的情绪、身材焦虑以及个人认同感，社交媒体平台通过增加女性群体对其身材的焦虑，进而影响其自尊心。同时，一些未经本人同意发布色情材料的恶意行为者进一步破坏了女性的声誉，侵犯了她们的权利，加剧了对其自尊心的伤害。
其次，作者指出，随着人工智能技术的发展，一些恶意行为者发展了新的手段，即采用“深度伪造”技术，通过提示生成式人工智能输出相关色情材料。比如在2017年时，女演员盖尔·加朵（Gail·Gadot）的图像被放置在一名成人影片演员的身体上。这一生成虚假信息、误导信息和恶意信息的新型攻击方式在之后的时间中不断增加，扭曲了事实，影响了被牵连的女性的个人正常生活，并严重地影响了相关者的个人信任和声誉，对女性带来了巨大挑战。此外，战略与国际研究中心的一项研究表明，深度伪造以及与之相关的网络安全漏洞存在性别差异：男性更不容易将深度伪造视为一种威胁，将深度伪造技术视为威胁的男性受访者比女性受访者少了27%。对此，作者认为，网络安全感知中存在性别差异，其中，需要增加男性对于网络安全的意识，来对其开展相关教育以弥合这一鸿沟。同时，作者还指出，公众眼中的“网络战争”并非是对军事指挥网络的致命打击，而是网络、深度伪造技术对社会极化走向的影响以及伴随而来的“政治战争”。
最后，作者指出，面对当前数字技术发展对女性群体带来的冲击，对于女性群体的法律保护尚存不足之处。尽管截止2024年，美国的48个州已经制定了法律将“报复性色情”行为定为犯罪，四个州已引入专门针对AI生成色情内容的立法。但是从一些具体的问题而言，比如处理未经涉事人物同意就发布色情视频的行为时，既有的方法是通过提交下架请求进行解决，且一次只能解决一个案例。这一旧时方案仅为权宜之计，亦难以解决系统性核心问题。对此，作者建议，真正的立法需要进行一系列的稳定、专业、协调一致的环节以推进，而非自发性的、一次性的活动。作者呼吁政策制定者需要立即采取行动，解决女性在深度伪造技术中受到负面影响的问题。在行动上，将保护妇女的权利和尊严视为一项基本行动，关注女性的基本人权，并确保其不再受到由生成式AI带来的网络虐待。尽管近期美国联邦调查局和司法部对制作AI生成儿童色情内容的个人进行了逮捕和起诉，但这一行动远远不够，相关立法应该覆盖所有女性。同时，作者肯定了两党共同提出的《2024年反伪造淫秽图像及非自愿编辑法案》通过将以前所谓的“计算机生成图像”重新定义为“数字伪造”来重新定义对女性的法律保护。这一立法的通过将证明美国国会致力于保护所有公民免受深度伪造技术的威胁，其将建立一个强有力的法律框架以阻止这种恶意活动，同时维护女性在数字时代的尊严和权利。
原文链接：
[1]https://www.brookings.edu/articles/can-california-fill-the-federal-void-on-frontier-ai-regulation/
[2]https://www.csis.org/analysis/left-shoulder-worries-ai
文章检索:周韫斐
编译:朱奕霏、杨雨虹
审核:王净宇
排版:须嘉慧
终审:梁正、鲁俊群
往期回顾
关于我们
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
微信视频号：THU-AIIG
Bilibili：清华大学AIIG
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢