On the Utility of External Agent Intention Predictor for Human-AI Coordination

在人工智能协同中，达成团队计划的共识至关重要。虽然以前的研究提供了通过不同方式进行交流的方法，但当人工智能没有可解释的计划进行交流时，协调仍可能很困难。为了弥补这一差距，我们建议将外部模型纳入到协助人类理解人工智能代理意图的过程中。在本文中，我们提出了一个两阶段的范式，首先从目标代理的离线轨迹中训练出一个心理理论模型，然后在人工智能协作过程中利用该模型，实时显示目标代理的未来动作预测。这种范式将人工智能代理作为一个黑盒子，因此可用于改进任何代理。为了测试我们的范式，我们进一步实现了一个基于Transformer的预测器作为心理理论模型，并开发了一个扩展的在线人工智能协作平台进行实验。全面的实验结果验证了我们的模型可以帮助人工智能团队取得更好的表现。实验附带的用户评估进一步证明了我们的范式可以显著提高人类的情境感知能力。我们的研究展示了通过外部协助增强人类能力的潜力，这可能进一步激发未来的研究。

本篇论文旨在解决在人工智能和人类协作中，当AI没有可解释的计划时，如何达成共识的问题。通过引入外部模型来帮助人类理解AI代理的意图。

本文提出了一个两阶段的范例，首先从目标代理的离线轨迹中训练出一个心理理论模型（ToM），然后在人工智能协作过程中利用该模型实时显示目标代理的未来行动预测。

本文使用基于Transformer的预测器作为ToM模型，并开发了一个扩展的在线人工智能协作平台进行实验。实验结果表明，通过我们的模型，人工智能团队可以实现更好的性能。用户评估进一步证明了我们的范例可以显著提高人类的情境感知能力。

最近的相关研究包括利用深度学习模型来预测人类行为和意图的研究，以及通过对话来解决人工智能和人类之间的协作问题的研究。