LLMs with Personalities in Multi-issue Negotiation Games

2024年05月08日
  • 简介
    由大型语言模型(LLMs)支持,AI代理已经能够完成许多人类任务。我们使用最经典的五大人格定义,测量LLMs在博弈理论框架内进行谈判的能力,以及测量公平和风险概念的方法论挑战。单一议题和多议题谈判的模拟(n=1,500)显示,随着不对称议题估值的复杂度增加,协议率提高,但侵略性谈判的剩余价值降低。通过梯度提升回归和Shapley解释器,我们发现高度的开放性、责任心和神经质与公平倾向相关;低度的宜人性和开放性与理性倾向相关。低度的责任心与高度的毒性相关。这些结果表明,LLMs可能具有内置的防护措施,以默认公平行为,但可以“越狱”以利用易于相处的对手。我们还提供了关于如何设计谈判机器人的实用洞见,以及基于博弈论和计算社会科学评估谈判行为的框架。
  • 作者讲解
  • 图表
  • 解决问题
    评估大型语言模型在博弈理论框架下进行谈判的人格特质和公平性表现,同时探讨测量公平性和风险概念的方法论挑战。
  • 关键思路
    使用单一议题和多议题谈判的模拟,发现领域复杂度随着不对称议题价值的增加而增加,高开放性、责任心和神经质与公平倾向有关,低宜人性和低开放性与理性倾向有关,低责任心与高毒性有关。
  • 其它亮点
    使用了1500次模拟进行单一议题和多议题的谈判,发现领域复杂度与议题价值的不对称性相关,探讨了测量公平性和风险概念的方法论挑战,使用了梯度提升回归和Shapley解释器对人格特质和公平性表现进行了评估。
  • 相关研究
    最近的相关研究包括“谈判中的机器学习方法”和“使用深度学习进行谈判的自适应对手模型”。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问