ABNet: Attention BarrierNet for Safe and Scalable Robot Learning

安全学习对于AI启用的机器人至关重要，因为单个故障可能会导致灾难性后果。基于屏障的方法是安全机器人学习的主要方法之一。然而，这种方法不具有可扩展性，难以训练，并且往往会在嘈杂的输入下产生不稳定的信号，难以为机器人部署。为了解决这些挑战，我们提出了一种新颖的注意力屏障网络（ABNet），可以逐步建立更大的基础安全模型，具有可扩展性。ABNet中BarrierNet的每个头部可以从不同的特征中学习安全机器人控制策略，并专注于观察的特定部分。通过这种方式，我们不需要一次性构建复杂任务的大型模型，这显着促进了模型的训练，同时确保其稳定输出。最重要的是，我们仍然可以正式证明ABNet的安全性保证。我们展示了ABNet在2D机器人避障、安全机器人操作和基于视觉的端到端自动驾驶中的强大实力，结果显示比现有模型具有更好的鲁棒性和保证。

提出Attention BarrierNet (ABNet)方法，以解决安全机器人学习中的可扩展性、训练难度和噪声输入下不稳定的问题。

ABNet方法通过在BarrierNet的每个头部学习不同的特征和关注特定部分的观测来构建可扩展的安全模型，从而避免了一次性构建复杂任务的大模型，同时确保其输出的稳定性和安全性。

实验展示了ABNet在2D机器人避障、安全机器人操作和基于视觉的自动驾驶方面的强大性能和保证，并提供了开源代码。

在安全机器人学习领域，还有一些相关研究，如基于障碍物的方法和基于模型的方法。