【标题】Certifiably Robust Policy Learning against Adversarial Communication in Multi-agent Systems

【作者团队】Yanchao Sun, Ruijie Zheng, Parisa Hassanzadeh

【发表日期】2022.7.2

【论文链接】https://arxiv.org/pdf/2206.10158.pdf

【推荐理由】在多智能体强化学习（MARL）问题中，通信对于智能体共享信息和做出正确决策至关重要。然而，基于通信的策略的安全性成为一个尚未充分研究的严重问题。具体来说，如果通信消息被恶意攻击者操纵，依赖不可信通信的智能体可能会采取不安全的行为，从而导致灾难性后果。 因此，确保智能体不会被错误的通信误导，同时仍能从良性通信中受益至关重要。本文考虑了一个具有N个智能体的环境，其中攻击者可以任意更改从任何 C<(N-1)/2 个智能体到受害者智能体的通信。对于这种强威胁模型，作者通过构建聚合多个随机消融的消息集的消息集成策略来提出可验证的防御。 理论分析表明，无论攻击算法如何，这种消息集成策略都可以利用良性通信，同时对对抗性通信具有可证明的鲁棒性。 在多个环境中进行的实验证实，本文的防御显着提高了经过训练的策略针对各种类型攻击的稳健性。

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除