Sparse Diffusion Policy: A Sparse, Reusable, and Flexible Policy for Robot Learning

机器人任务日益复杂，需要高效的多任务和持续学习策略。传统模型通常依赖于适用于所有任务的通用策略，在学习新任务时面临高计算成本和灾难性遗忘等挑战。为了解决这些问题，本文引入了一种稀疏、可重用和灵活的策略，即稀疏扩散策略（SDP）。通过在基于变压器的扩散策略中采用专家混合（MoE），SDP能够选择性地激活专家和技能，实现高效和任务特定的学习，而无需重新训练整个模型。SDP不仅减轻了活动参数的负担，而且促进了各种任务中专家的无缝集成和重用。在模拟和实际的不同任务上进行的大量实验表明，SDP在多任务场景中表现出色，活动参数几乎没有增加，可以防止在持续学习新任务时出现遗忘，并且可以实现高效的任务转移，为先进的机器人应用提供了有希望的解决方案。演示和代码可以在 https://forrest-110.github.io/sparse_diffusion_policy/ 找到。

本论文试图解决多任务和连续学习中的高计算成本和灾难性遗忘问题。

本文提出了一种稀疏、可重用、灵活的策略——Sparse Diffusion Policy（SDP），通过在基于Transformer的扩散策略中采用专家混合（MoE），SDP能够选择性地激活专家和技能，实现高效的任务特定学习。

本文的亮点在于SDP不仅能够在多任务场景下表现出色，而且能够防止连续学习中的遗忘，并且能够实现高效的任务转移。实验结果表明，SDP是一种非常有前途的解决高级机器人应用问题的方法。此外，本文还提供了演示和代码。

在这个领域中，最近的相关研究包括：《Learning to Learn without Forgetting by Maximizing Transfer and Minimizing Interference》、《Continual Learning with Deep Generative Replay》等。