Multi-Task Learning for Dense Prediction Tasks: A Survey

论文链接:https://arxiv.org/abs/2004.13379 代码链接:https://github.com/SimonVandenhende/Multi-Task-Learning-PyTorch

20页综述,共计116篇参考文献。本文全面调研了用于密集(像素级)预测的多任务学习(MTL)技术,介绍了最近流行的MTL模型的网络结构、优点/缺点,并探讨了它们的共性和差异,还提供了广泛的实验评估,代码已开源!作者单位:鲁汶大学, ETH Zurich(Luc Van Gool等人)

随着深度学习的到来,许多密集的预测任务即产生像素级预测的任务已经获得了显著的性能提升。典型的方法是孤立地学习这些任务,即为每个单独的任务训练一个单独的神经网络。然而,最近的多任务学习(MTL)技术已显示出不错的结果。计算和/或内存占用量,通过学习的共享表示共同解决多个任务。在此调查中,我们提供了计算机视觉中MTL的最新深度学习方法的全面视图,明确强调了密集的预测任务。我们的贡献涉及以下方面。首先,我们从网络架构的角度考虑MTL。我们将进行广泛的概述,并讨论最近流行的MTL模型的优点/缺点。其次,我们研究了各种优化方法来解决多个任务的联合学习。我们总结了这些作品的质性元素,并探讨了它们的共性和差异。最后,我们在各种密集的预测基准上提供了广泛的实验评估,以检验不同方法(包括基于体系结构和基于优化的策略)的优缺点。

内容中包含的图片若涉及版权问题,请及时与我们联系删除