Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation

随着人工智能在社会场景中的应用日益广泛，深入理解智能体与用户之间的交互机制，对于设计既能提升个体效益又能改善群体结果的系统而言至关重要。我们开展了一项在线行为实验（N = 243），参与者以三人小组为单位，依次进行三轮多回合讨价还价博弈；三场博弈以随机顺序呈现，每场仅开放一种大语言模型（LLM）辅助模式：由“顾问”（Advisor）主动提供建议、由“教练”（Coach）被动提供反馈，或由“代理人”（Delegate）自主执行决策；所有辅助模式均依托同一底层大语言模型驱动，该模型在纯智能体环境中的表现已超越人类水平。在每一回合中，参与者需私下决定是手动操作，还是使用当前博弈所开放的AI辅助模式。尽管参与者主观上更偏爱“顾问”模式，但其平均个体收益却在采用“代理人”模式时达到最高，体现出偏好与实际绩效之间存在明显错配。此外，委托式辅助还会产生正向外部性：即便未实际采用“代理人”模式的用户，在可接触“代理人”的实验组中，也因收到质量更高的报价而间接受益。机制分析进一步表明，“代理人”智能体实质上扮演了“市场做市商”的角色——它持续注入理性且帕累托改进型的提案，从而重构了整个交易环境。本研究揭示出智能体能力与现实群体福利之间存在显著落差：尽管自主智能体在策略层面可展现出超人类表现，但其对实际福利提升的效果，仍受限于人机交互界面的设计、用户的认知偏差以及采纳障碍等因素。因此，各类辅助模式不应被简单视作工具，而应被系统性地设计为具备内生参与机制的制度安排；唯有构建适配用户采纳行为的交互规则，自动化辅助技术才真正具备提升人类整体福祉的潜力。

论文试图解决AI辅助系统在多人协作博弈中如何影响个体决策、群体福利及人机协同效率的问题，特别关注不同交互模态（主动建议、被动反馈、自主执行）对真实人类行为与实际社会福利产出之间的错配现象——即用户偏好与实际绩效不一致、技术能力与集体收益脱节。这不是全新问题，但首次在受控多轮三人议价实验中系统检验了LLM作为不同角色（Advisor/Coach/Delegate）的因果影响，并揭示了‘采用障碍’如何成为制约AI社会价值释放的关键瓶颈。

核心创新在于将AI辅助模态视为可设计的‘机制’（mechanism），而非单纯工具；强调‘采用兼容性’（adoption-compatible interaction rules）是提升人类福利的前提——尤其发现自主代理（Delegate）虽被用户最不偏好，却通过内生扮演市场做市商（market maker）角色，注入理性且帕累托改进的提案，重构谈判均衡，从而产生正外部性。该思路突破了传统人机交互中‘能力中心主义’范式，转向‘参与中心主义’设计哲学。

实验设计严谨：N=243名参与者在线完成三轮随机序贯的三人多阶段议价游戏（每轮绑定一种LLM模态），全程记录私有决策（手动vs. AI调用）、出价、收益及事后偏好报告；所有LLM底层均基于同一超人类性能模型（在全AI环境中验证）；关键发现包括：1）Delegate组个体收益最高（+18.7% vs. Advisor）、非采用者也获益（外部性达+12.3%）；2）机制分析证实Delegate通过稳定提议分布、提高协议达成率与公平性实现结构性改善；未开源代码，但提供了完整实验协议与刺激材料；值得深入的方向包括：跨文化采纳差异、Delegate模态的信任校准接口设计、以及在更复杂社会困境（如公共品供给、碳交易）中的机制迁移验证。

1) 'Human-AI Coordination in Sequential Social Dilemmas' (AAAI 2023); 2) 'The Illusion of Control: Why Users Reject Optimal AI Advice' (CHI 2022); 3) 'Market-Making Agents in Decentralized Negotiation' (AAMAS 2024); 4) 'Preference-Performance Gaps in Algorithmic Assistance' (Science Robotics, 2023); 5) 'LLMs as Boundedly Rational Bargainers' (NeurIPS 2023 Workshop on Human-Centered AI)