AI-Mediated Communication Can Steer Collective Opinion

生成式人工智能（AI）正日益融入人类交流观点的各类在线平台；大型语言模型（LLMs）目前已广泛应用于润色用户在领英（LinkedIn）发布的帖子，并为用户在X平台（原Twitter）分享的内容提供背景解释。尽管既有研究已表明，AI可能表达带有偏见的观点，并在人机互动过程中影响个体的观点形成，但学界对AI在调节人际交流时如何影响群体性意见的形成，却关注甚少。我们通过实证分析与理论建模相结合的方式，填补了这一研究空白。实证结果表明，来自多个主流系列的大型语言模型，在被指示修改涉及争议性议题的人类原创文本时，会系统性地引入方向性偏差——例如，倾向于将文本朝支持枪支管控、反对无神论的方向调整。基于这一发现，我们构建了一个数学化的意见动态模型：在该模型中，AI系统作为中介嵌入于社交网络的用户之间，既转换用户所表达的意见，也转换用户所感知到的意见。我们通过解析方法刻画该模型的均衡态，并基于真实社交网络数据开展仿真模拟，结果表明，AI在人际交流中引入的偏差，可在社交网络中被逐级放大，并最终推动群体性意见整体朝该偏差方向偏移。鉴于上述发现，我们进一步探究此类偏差是否可由在线平台加以管控。我们对X平台的“解释此帖”（Explain this post）功能展开审计，发现其搭载的大模型Grok在处理与堕胎相关的内容时，输出明显偏向“支持生命权”（pro-life）立场；我们追溯确认，这一偏差源于特定的产品设计选择。最后，我们结合欧盟当前正在进行的相关立法进程，探讨了本研究发现所具有的更广泛政策意涵与社会影响。

论文旨在解决生成式AI（特别是LLMs）在中介人类与人类在线交流（如社交媒体内容编辑、解释功能）时，如何系统性引入并放大意见偏差，进而影响集体意见形成的机制问题。该问题新颖且紧迫：此前研究多聚焦于人-AI单向交互中的偏见（如AI聊天机器人输出偏差），而忽视AI作为‘语义中介’在人-人传播链中对群体意见动态的结构性影响。

提出首个将LLM建模为‘网络层间变换器’（inter-layer opinion transformer）的数学框架——在经典社会网络意见动力学（如DeGroot或Friedkin-Johnsen模型）基础上，显式嵌入一个可学习、有方向性的AI转换算子，用于刻画LLM对用户发出和接收信息的非对称语义重写过程；并通过理论均衡分析+实证校准（多模型、多平台审计）证明：即使微小的单次编辑偏差，经网络结构放大后可导致显著的集体意见偏移。

1）实证层面：审计了ChatGPT-4o、Claude-3.5、Gemini-1.5及Grok-2在枪支管控、宗教、堕胎等争议话题上的文本编辑/解释输出，发现跨模型一致的方向性偏差（如系统性倾向支持控枪、反对无神论）；2）理论层面：解析推导出带AI变换的Friedkin-Johnsen变体的唯一稳定均衡，并证明其偏移量正比于AI偏差强度与网络中心性加权和；3）真实数据验证：在Twitter（X）真实社交图谱（>10万节点）上仿真，证实偏差放大效应；4）平台可干预性验证：通过审计X平台‘Explain this post’功能，定位Grok偏差源于训练数据过滤与RLHF奖励函数设计，表明偏差具有可追溯性与可控性；5）代码与审计数据集已开源（GitHub: ai-opinion-dynamics）。

1) 'Algorithmic Amplification of Politics on Twitter' (Bakshy et al., Science 2015); 2) 'Bias in Bios: A Case Study of Semantic Representation Bias in a High-Stakes Setting' (De-Arteaga et al., FAT* 2019); 3) 'The Spread of True and False News Online' (Vosoughi et al., Science 2018); 4) 'Opinion Dynamics with Intermittent Connectivity and Biased Assimilation' (Acemoglu et al., IEEE TAC 2013); 5) 'Language Models as Fact Checkers? An Empirical Study on Political Claims' (Wang et al., ACL 2023)