Body Transformer: Leveraging Robot Embodiment for Policy Learning

近年来，变压器架构已成为自然语言处理和计算机视觉机器学习算法的事实标准。尽管在机器人学习的背景下成功部署了这种架构，但我们认为普通变压器并没有充分利用机器人学习问题的结构。因此，我们提出了Body Transformer（BoT）架构，利用机器人的具体实现提供归纳偏差来引导学习过程。我们将机器人身体表示为传感器和执行器的图形，并依靠掩码注意力在整个架构中汇集信息。结果，该架构在表示模仿或强化学习策略时，在任务完成、可扩展性和计算效率方面均优于普通变压器和经典的多层感知器。包括开源代码在内的其他材料可在https://sferrazza.cc/bot_site上获得。

论文提出了Body Transformer（BoT）架构，旨在利用机器人体现来提高机器人学习的效果。

BoT将机器人身体表示为传感器和执行器的图形，并利用掩码注意力在整个架构中汇集信息，从而提供了一个归纳偏差来指导学习过程。相比于当前的机器学习算法，BoT架构在任务完成、扩展性和计算效率方面表现更好。

论文使用开源代码，并在模仿学习和强化学习策略中测试了该架构。实验结果表明，BoT架构在任务完成、扩展性和计算效率方面表现更好，相比于经典的多层感知器和vanilla transformer架构都有显著提升。

与该论文相关的研究包括Transformer架构在自然语言处理和计算机视觉中的应用，以及机器人学习中的其他架构和算法，例如深度强化学习和递归神经网络。