点击蓝字

关注我们




引言



随着2024年美国大选临近，生成式人工智能正成为影响选举过程的重要因素之一。生成式人工智能，特别是在文本、图像、和视频生成领域的进步，正在改变信息传播和选民互动的方式，同时也带来了新的挑战和机遇。

信息传播的变革


2022年美国中期选举后，ChatGPT等生成式人工智能迅速发展。联合国教科文组织发布了《数字时代的选举：选举从业指南》，指导政府适应新技术带来的变革。学界对生成式人工智能介入选举的观点存在两极分化。部分学者乐观认为AI加速生产力进步，带来创新；但另一部分学者担忧AI可能被恶意利用，造成负面影响。从技术角度来看，生成式AI的信息并不总是准确的，可信度存疑；从社会角度，AI可能加剧有害信息传播和社会偏见；从法律角度，AI引发知识产权侵犯、数据窃取和隐私问题；从经济角度，AI可能对劳动力市场和数字化转型产生颠覆性影响，扩大贫富差距。

图源：网络
生成式人工智能的兴起使得内容创作的门槛大大降低。竞选团队、媒体机构甚至个人用户都可以通过生成式AI工具快速生成有吸引力的文本、图像和视频。这种能力可以用于快速响应新闻事件、制作政治广告或传播竞选信息，从而增加候选人对选民的影响力。业界专家和分析人士担心，人工智能生成的图像、音视频等深度伪造内容将大量充斥2024年总统选举，拉低两党竞选人攻讦、抹黑信息战的底线。技术的引入提升了选举宣传的效率，但也可能对选民决策和美式民主制度产生负面影响。


政治宣传的影响


今年五月，OpenAI揭露了一个与伊朗相关的组织利用ChatGPT生成内容，发布在社交媒体和网站上，试图加剧美国大选中的政治两极分化。这些内容涵盖了美国总统大选、加沙冲突、奥运会等话题，传播错误信息并批评候选人。OpenAI封禁了相关账户，并与社交媒体平台合作关闭了这些账户。这是OpenAI首次发现针对美国大选的AI驱动行动，尽管其影响有限，但引发了对AI在选举中潜在影响的担忧。
人工智能生成的内容在阿根廷2023年总统选举中也发挥了意想不到的作用。就在第一轮投票前，网上流传了一段丑闻录音，声称时任总统候选人帕特里夏·布尔里奇的经济部长人选卡洛斯·梅尔科尼安涉嫌以政府职位换取性好处。虽然布尔里奇本人并没有否认录音文件的真实性，但其政党却坚称这段录音是用人工智能篡改或生成的。虽然音频的真实性尚未确认，这一事件表明，当政客将真实的丑闻标榜为“错误信息”时，选民反而可能更支持这些政客。因此，生成式人工智能可能在未直接使用的情况下，也会对选举产生有害影响。
这种技术的普及带来了虚假信息传播的风险。生成式AI可以制造出高度逼真的假新闻、虚假声明，甚至是伪造的候选人讲话视频，使信息素养较低的“脆弱选民”更容易受到误导。这些选民可能难以识别虚假内容，并因此被引导相信与移民、经济、种族等关键议题相关的虚假信息，影响其理性决策。即使是信息素养较高的选民，也难以区分深度伪造与真实内容。美国布鲁金斯学会技术创新中心专家达雷尔·韦斯特说，一旦深度伪造内容掺和到竞选过程中，“选民会难以分辨真假”。这种现象可能会加剧选民的两极分化，影响选举结果的公正性。
此外，随着大选临近，生成式人工智能在政治宣传中的影响日益显著。网络上出现了大量利用AI生成的“虚假照片”，如特朗普与黑人群体的合影：BBC报道称，在网络上流传的采用人工智能技术生成的“虚假照片”共有数十张，这些图片大概率由特朗普的支持者自发制作，目的是呈现黑人群体对特朗普的支持，鼓励非裔选民投票给共和党。特朗普的竞选团队也加大了在AI领域的投入，使用AI技术进行定制化政治宣传，分析选民情绪，精准投放信息。这种策略引发了对虚假信息传播的担忧，特别是在黑人社区中的影响。

图源：网络
在生成式人工智能的帮助下，两党或选举组织利用AI技术精准投递信息，强化选民对政党的忠诚度。然而，这种技术也可能通过煽动仇恨、阴谋论和情绪，加剧选民的偏见与分歧，助长极端主义的回归，导致“政治钙化”。这种趋势可能引发政治动荡，加剧美国政治生态的技术性割裂和不稳定性。


选民互动的变化


生成式人工智能正在通过个性化内容推荐和对话系统彻底改变选举中与选民互动的方式。AI驱动的聊天机器人可以与选民进行实时对话，回答问题、收集反馈，并根据选民的兴趣和偏好推送定制化信息。候选人能够利用AI技术精确定位受众，避免浪费资源在已定支持者或反对者身上，而是集中力量说服摇摆不定的选民。由于美国政治的高度两极分化，选民中仅有一小部分表示犹豫不决。美国公共影响中心发布的报告显示，AI通过分析选民的社交媒体数据和心理特征，针对性推送个性化的政治广告和信息。然而，这种技术也引发了对竞选活动隐蔽性和信息不诚实的担忧，因为不同选民可能接收到截然不同的信息，影响选举的透明性和公正性。
同时，在选民信息认知的“混战”中，AI生成的虚假信息呈指数级增长，干扰了选民的自主决策，使投票结果无法真实反映选民的意图。近一半美国人对AI可能被新闻机构滥用表示担忧，特别是在选举期间，错误信息可能导致选民无法正确获取投票时间和地点，影响投票率。这表明AI的介入还可能导致选举系统的可信度下降。根据美国媒体披露，一些美国选民曾接到伪造的“拜登”机器人语音电话，内容呼吁选民推迟投票，意图阻止共和党在初选中获胜。特别是在新罕布什尔州的共和党初选期间。白宫确认这些电话是伪造的，而一家名为“十一实验室”的人工智能初创公司被指技术被滥用于制作这些录音。该公司已关闭相关用户账户，并声明将严肃对待AI滥用的问题。相关调查显示，几乎一半的美国人认为AI生成的错误信息会影响2024年大选结果，许多人因此对选举结果失去信心。技术进步可能会冲击美国政治制度，导致更广泛的政治冷漠和对选举合法性的质疑。


法律与伦理挑战


生成式人工智能的广泛应用引发了诸多法律与伦理问题。首先是关于信息真实性的挑战。在网络事件方面，相关行为者可能利用生成式人工智能来协助部署社交工程技术，利用任何个人的声音生成逼真的音频，创建高度逼真的虚假图像，伪造社交媒体资料，利用深度伪造技术支持影响力推广活动，用于操纵选民的情感和观点。尽管西方在法规层面有所进展，但其监管水平仍远落后于技术发展速度。美国在行政、立法和司法层面已开始采取措施，TikTok是目前唯一一家制定了全面审核人工智能生成内容政策的大型社交媒体公司。2023年3月，TikTok推出了“合成传播内容政策”，要求创作者在发布由AI生成或修改的逼真场景时，必须明确披露这一信息，特别是与选举相关的内容，禁止使用AI生成的假冒公众人物进行政治背书的图片。4月起，TikTok开始删除不符合规定的内容，但给予创作者在标注免责声明方面一定的灵活性。尽管如此，这项政策可能不足以完全防止错误信息的传播，以及消除对选举合法性的威胁。

图源：网络
随着AI生成内容在社交网络上的泛滥，平台监管的缺失导致虚假信息广泛传播。Reality Defender公司CEO本·科尔曼警告，未标记的AI生成内容会在监管之前造成“不可逆转的损害”，并指出事后解释虚假内容的效果甚微。非营利机构“人类技术中心”创始人之一阿扎·拉斯金说，技术行业竞相开发更先进的人工智能技术，却鲜有措施防止深度伪造技术工具生成的虚假信息传播。开发ChatGPT的开放人工智能研究中心首席执行官萨姆·奥尔特曼5月在美国国会中提到，竞选中信息的真实性事关重大，呼吁加强这方面的监管。许多专家和议员建议推进建设法律护栏，规范人工合成广告。民主党议员已提出立法，要求政治广告披露AI生成内容，部分州也已通过相关法律。
此外，保护选民隐私信息、支持“技术脆弱选民”、提升选民的媒介和技术素养已成为当务之急。《华尔街日报》民调显示，约26%的选民仍未作出最终决定，而这些摇摆选民可能对大选结果产生重大影响。过去已有组织利用人工智能电话威胁和误导边缘化社区的选民。未来，保障关键选民的信息安全、帮助他们作出明智决策，将是美国选举安全的重要任务。据新华社报道，为了应对这些挑战，包括谷歌、微软在内的多家科技公司签署《打击在2024年选举中欺骗性使用人工智能的技术协议》，承诺在2024年这个多国举行重要选举的年份打击旨在干扰选举的人工智能滥用行为。这份协议中涉及用人工智能生成的欺骗性图像、视频和音频等被认为可能在政治候选人、选举官员相关信息以及投票过程等方面欺骗选民的内容，防止生成式AI干扰选举结果。尽管这些措施为遏制AI滥用提供了框架，但彻底禁止此类内容的呼声仍然未得到全面响应。


AI介入大选的现实问题


随着生成式人工智能在美国大选中的介入，选民表达和政治参与面临多重挑战。首先，算法的广泛应用可能导致选民群体的形象被简化并分类，以发送针对性的诱导信息，削弱民意表达的准确性，并加剧选举中的歧视和不平等现象。其次，AI技术的引入可能加剧技术受益者与利益受损者之间的矛盾，导致罢工和失业等社会危机，进一步加剧美国政治的极化。此外，AI技术的国际应用增加了大国竞争的复杂性，可能引发外交危机，并影响美国对外政策的理性传达。

生成式人工智能在选举中的应用不仅重塑了选民认知和政治竞争，还可能产生深远的外溢性影响。在全球范围内，AI引发的技术竞争正在加剧，尤其是在中美关系中。由于生成式人工智能的介入所引发的危机感和焦虑，美国政界和媒体中频繁出现指责中国试图利用人工智能干预美国选举、向全球输出技术威权的声音。这些围绕人工智能的争议可能进一步恶化两国关系，并加剧国际紧张局势。此外，生成式人工智能的扩散可能导致国家间的网络和意识形态冲突升级，影响全球外交政策的稳定性和可预测性。

这些挑战表明，随着人工智能技术的深入应用，选举政治面临的风险愈发复杂，亟需在国内外建立更加完善的监管框架，以应对可能产生的广泛影响和潜在危机。

主理人丨刘典
编辑 | 郭凌旭
排版丨夏冉
审核丨梁正 鲁俊群

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。



新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

内容中包含的图片若涉及版权问题，请及时与我们联系删除