Rehearsal-Free Modular and Compositional Continual Learning for Language Models

这篇文章讨论了连续学习的问题，即在不遗忘现有知识的情况下，增量获取新知识。为了解决灾难性遗忘的问题，方法要么是基于重复练习，即存储以前任务的数据示例以进行数据重放，要么是隔离每个任务专用的参数。然而，基于重复练习的方法会引起隐私和内存问题，而参数隔离的连续学习则不考虑任务之间的交互，从而阻碍了知识的传递。在这项工作中，我们提出了MoCL，这是一种无需重复练习的模块化和组合式连续学习框架，它不断向语言模型添加新模块并将它们与现有模块组合。对各种基准测试的实验表明，MoCL优于现有技术，并有效促进了知识转移。

MoCL是一个无需回放的模块化和组合式连续学习框架，试图解决连续学习中的灾难性遗忘问题，并促进知识转移。

MoCL通过不断添加新模块并将它们与现有模块组合来解决连续学习中的灾难性遗忘问题，这与传统的基于回放的方法和参数隔离的方法不同。

MoCL在多个基准测试中表现出比现有技术更好的性能，并且没有隐私和内存问题。该论文使用了多个数据集进行了实验，并且提供了开源代码。值得进一步研究的工作包括如何更好地处理不同类型的模块和如何将MoCL应用于其他领域。

最近在这个领域中，还有一些相关的研究，如《Continual Learning with Deep Generative Replay》、《Gradient Episodic Memory for Continual Learning》和《Overcoming Catastrophic Forgetting with Hard Attention to the Task》。