Cooperative AI via Decentralized Commitment Devices

可信承诺设备一直是强大的多智能体协调方法。然而，现有的承诺机制面临隐私、完整性和易受调解者或用户战略行为等限制。目前还不清楚我们研究的合作AI技术是否能够抵御现实世界的激励和攻击。然而，利用密码学的分散承诺设备已经在实际中得到应用，并且许多研究已经证明了它们协调算法代理面对具有重大经济激励的对手的能力，目前的秩序在数百万到数十亿美元之间。在本文中，我们利用分散化和特别是最大可提取价值（MEV）（arXiv:1904.05234）文献中的例子来说明合作AI中的潜在安全问题。我们呼吁扩大对分散承诺的研究，以提高开放环境中安全协调的合作AI能力，并建立实证测试框架，以评估多智能体在现实承诺约束下的协调能力。

论文旨在探讨去中心化承诺设备在协同人工智能中的应用，以解决现有承诺机制在隐私、完整性和中介或用户策略行为方面的局限性。同时也提出了对去中心化承诺设备的进一步研究，以推进协同人工智能在开放环境中的安全协调能力。

论文提出了使用去中心化承诺设备来协调算法代理面对对手的协同人工智能技术，并使用Maximal Extractable Value（MEV）文献中的例子来说明协同人工智能中的潜在安全问题。同时呼吁扩大去中心化承诺的研究，并提出了实证测试框架，以评估多智能体在现实世界承诺约束下的协调能力。

论文使用了Maximal Extractable Value（MEV）文献中的例子来说明协同人工智能中的潜在安全问题。论文提出了去中心化承诺设备的应用，以解决现有承诺机制在隐私、完整性和中介或用户策略行为方面的局限性。同时，呼吁扩大去中心化承诺的研究，并提出了实证测试框架，以评估多智能体在现实世界承诺约束下的协调能力。

最近的相关研究包括使用去中心化承诺设备来协调多智能体的研究。相关论文包括：《Decentralized Coordination via Reinforcement Learning》、《Learning to Coordinate with Coordination Graphs in Deep Multi-Agent Reinforcement Learning》等。