Skin-in-the-Game: Decision Making via Multi-Stakeholder Alignment in LLMs

大型语言模型（LLMs）在摘要、算术推理和问答等任务中表现出了非凡的能力。然而，在道德推理和伦理决策领域，特别是在涉及多个利益相关者的复杂情境中，它们面临着重大挑战。本文介绍了“皮肤在游戏中”（SKIG）框架，旨在通过从多个利益相关者的角度探索决策后果来增强LLMs的道德推理能力。SKIG机制的核心是模拟行动的问责制，这与同理心练习和风险评估一起是其有效性的关键。我们使用专有和开源LLMs验证了SKIG在各种道德推理基准测试中的表现，并通过广泛的削减分析研究了其关键组成部分。

如何提升LLMs在道德推理和伦理决策方面的能力，特别是在多利益相关者复杂场景下？

SKIG框架通过模拟行动的责任感、同理心练习和风险评估等机制，从多方利益相关者的角度探索决策后果，提升LLMs的道德推理能力。

通过验证SKIG框架在多个道德推理基准测试中的表现，证明其有效性。实验使用了专有和开源LLMs，并进行了广泛的消融分析。

最近的相关研究包括《Towards a Comprehensive Framework for Moral Decision Making: Integrating Normative Ethics, Empirical Ethics, and Moral Psychology》、《The Ethics of Artificial Intelligence》等。