HumanPlus: Humanoid Shadowing and Imitation from Humans

本文提出了一种全栈系统，使得机器人能够从人类数据中学习运动和自主技能。与人类类似的机器人形态的一个关键论点是我们可以利用大量的人类数据进行训练。然而，由于人形感知和控制的复杂性，人形和人类在形态和执行方面存在持续的物理差距，以及缺乏人形的数据管道来从自我中心视角学习自主技能，因此在实践中仍然具有挑战性。我们首先使用现有的40小时人类动作数据集在仿真中通过强化学习训练低级策略，这个策略可以转移到现实世界中，并允许人形机器人使用仅有的RGB相机实时跟随人体和手部运动，即模仿。通过模仿，人类操作者可以远程操作人形机器人收集全身数据，以便在现实世界中学习不同的任务。使用收集的数据，我们进行监督行为克隆，使用自我中心视角训练技能策略，使得人形机器人可以通过模仿人类技能自主完成不同的任务。我们在我们自定义的33自由度180厘米人形机器人上演示了该系统，成功率为60-100％，完成任务包括穿鞋站起来走路、从仓库货架上卸载物品、折叠汗衫、重新排列物品、打字和与另一个机器人问候。项目网站：https://humanoid-ai.github.io/

本文旨在解决人形机器人学习自主技能的问题，通过利用人类数据进行训练，实现机器人从人类数据中学习运动和技能。

通过在模拟环境中使用强化学习训练低级别策略，将其转移到现实世界中，使人形机器人能够实时跟随人体和手部运动，从而通过模仿人类技能实现不同的任务。

实验使用了40小时的人体运动数据集，通过影子技术，人类操作员可以远程操作人形机器人收集全身数据，以便在现实世界中学习不同的任务。实验展示了该系统在33-DoF 180cm人形机器人上的成功应用，包括穿鞋站起来走路、从仓库货架上卸载物品、折叠汗衫、重新排列物品、打字和与另一个机器人打招呼等任务。

最近的相关研究包括“从人类示范中学习机器人操作”和“基于深度学习的机器人运动规划”等。