许多图像处理算法已在单个图像处理任务中表现了出色的性能,但是将它们直接应用于视频上通常会有时域不一致问题(例如闪烁问题)。为了提高时域一致性,大多数研究人员针对不同的视频处理任务设计了专用算法,例如视频上色,视频去噪和视频超分辨率。尽管特定任务的视频处理算法可以改善时域一致性,但是能否将类似的策略应用于其他任务尚不清楚或具有挑战性。不同于前者,本文的作者提出了一种新颖且通用的框架,该框架可以将图像处理算法转换为对应的具有高度时域一致性的视频处理算法。
- 论文名称:Blind Video Temporal Consistency via Deep Video Prior
- 论文链接:https://arxiv.org/abs/2010.11838
- project主页:https://chenyanglei.github.io/DVP/index.html
基于作者观察到的深度视频先验(DVP),作者通过利用单个视频从头训练CNN来实现时域一致性。与以前的工作相比,作者的方法要简单得多,并且可以产生令人满意的结果(更好的时域一致性以及更大程度保留原始算法效果)。作者的迭代加权训练(IRT)策略还很好地解决了具有挑战性的多模态不一致问题。作者认为,所提出的方法的简单性和有效性可以将图像处理算法转化成其对应的视频处理算法。因此,利用该框架,人们可以将最新的图像处理算法直接应用于视频。
作者方法的局限性之一是相对较长的测试时间。尽管作者的方法不需要训练大型数据集,但需要为每个视频训练一个单独的模型,与Lai等人相比,比直接推理要花费更多的时间。但是,与以前采用显式采用光流来增强时域一致性的方法不同,作者证明了这一点,通过神经网络训练可以隐式地实现视频先验(即时域一致性)。
作者表示,他们将专注于提高效率以缩短实际应用中的处理时间。此外,作者相信DVP的概念可以进一步扩展到其他类型的数据,例如3D数据和多视图图像。DVP不依赖于视频帧的顺序,并且自然应适用于维护多个图像之间的多视图一致性。对于3D volume数据,3D CNN也可能表现出DVP的相似属性。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢