Face to Cartoon Incremental Super-Resolution using Knowledge Distillation

面部超分辨率/幻觉是一个重要的研究领域，旨在增强低分辨率面部图像以用于各种应用。虽然生成对抗网络（GAN）在这个领域表现出了很好的潜力，但它们适应新的、未见过的数据的能力仍然是一个挑战。本文提出了一种使用知识蒸馏的GAN的增量超分辨率（ISR-KD）方法，用于面部到卡通的转换，以解决这个问题。以往在这个领域的研究没有研究增量学习，而增量学习对于不断产生新数据的实际应用至关重要。所提出的ISR-KD旨在开发一个新的统一框架，用于面部超分辨率，可以处理不同的设置，包括不同类型的面部，如卡通面部和不同的细节级别。为了实现这一点，一个基于GAN的超分辨率网络在CelebA数据集上进行了预训练，然后在iCartoonFace数据集上进行了增量训练，使用知识蒸馏来保持在CelebA测试集上的性能，同时提高在iCartoonFace测试集上的性能。我们的实验证明了知识蒸馏在增量添加卡通面部超分辨率模型能力的同时，保留了GAN中面部幻觉任务的学习知识的有效性。

本论文旨在解决低分辨率面部图像超分辨率/幻觉的问题，并提出了一种基于GAN和知识蒸馏的增量超分辨率方法，以适应新的、未见过的数据。

该论文的关键思路是使用知识蒸馏技术，在CelebA数据集上预训练基于GAN的超分辨率网络，并在iCartoonFace数据集上进行增量训练，以实现面部卡通图像的超分辨率。

论文的实验结果表明，使用知识蒸馏技术可以在保持CelebA测试集性能的同时，增加模型的卡通面部超分辨率能力，并在GAN的面部幻觉任务中保留学习到的知识。

最近的相关研究包括：1.《Deep Face Super-Resolution with Iterative Collaboration between Attentive Recovery and Landmark Estimation》；2.《Deep Learning for Single Image Super-Resolution: A Brief Review》。