CLoG: Benchmarking Continual Learning of Image Generation Models

持续学习（CL）是人工智能领域的一个重要挑战，旨在模拟人类逐步获取知识和技能的能力。虽然在分类任务的背景下进行了大量的CL研究，但是越来越强大的生成模型的出现需要探索生成模型的持续学习（CLoG）。本文主张将研究重点从基于分类的CL转向CLoG。我们系统地识别了CLoG相对于传统基于分类的CL所面临的独特挑战。我们将回放法、正则化法和参数隔离法三种现有的CL方法应用于生成任务，并引入了广泛任务覆盖和多样性的CLoG综合基准。我们的基准和结果提供了有趣的见解，可为开发未来的CLoG方法提供有价值的参考。此外，我们将在https://github.com/linhaowei1/CLoG公开发布一个代码库，旨在方便进行CLoG的基准测试和实验。我们相信，将研究重点转向CLoG将有利于持续学习社区，并为终身学习范式下的下一代AI生成内容（AIGC）开辟道路。

本论文旨在探索生成模型的持续学习（CLoG）问题，即如何在不断增量获取知识和技能的同时，保持生成模型的稳定性和性能。

论文提出了针对生成任务的重放、正则化和参数隔离等三种持续学习方法，并设计了全面的基准测试来评估这些方法的性能和特点。

论文的实验结果表明，CLoG存在着独特的挑战和难点，但是针对生成任务的持续学习方法可以取得良好的效果。同时，论文还公开了代码库和数据集，方便后续研究和实验。

近期相关研究包括《Continual Learning for Natural Language Generation》、《Continual Learning in Reinforcement Learning》等。