华为诺亚方舟实验室在无损压缩领域取得突破性的进展,并于近期发表4篇AI顶会论文,其中3篇被NeurIPS 2021接收(其中一篇为spotlight),1篇被CVPR 2021接收。这4篇研究工作将业界的AI压缩性能提升数倍,并使模型泛化性得到了大幅提升,使得AI压缩的应用前景前进了一大步。

AI无损压缩通过AI技术准确数据的分布规律,从而大幅提升压缩率。已有的AI无损压缩工作有两大缺点,一是压缩吞吐率低,二是存在分布外数据泛化性问题,这两大问题都限制了AI无损压缩的应用前景。华为诺亚方舟实验室在无损压缩领域取得突破性的进展,在提升压缩吞吐率方面,提出两种基于流模型的高效无损压缩方法iFlow和iVPF,在取得最优压缩率的同时,压缩吞吐率提升数倍,它们分别发表在NeurIPS 2021 Spotlight和CVPR 2021。在泛化性研究上,提出OSOA和NelLoc,在泛化数据压缩取得了最优的性能,并发表在NeurIPS 2021。
四篇工作:
-
iFlow: Numerically Invertible Flows for Efficient Lossless Compression via a Uniform Coder (NeurIPS 2021 spotlight),通过自研编码算法 UBCS及自研变换方法MST的应用,大幅降低流模型在无损压缩上的复杂度。与原SOTA算法相比,在同样取得SOTA压缩率同时,编码速度提升 5 倍,全流程压缩/解压速度提升 3.5 倍。https://arxiv.org/abs/2111.00965
-
OSOA: One-Shot Online Adaptation of Deep Generative Models for Lossless Compression (NeurIPS 2021) ,用压缩数据对压缩模型进行自适应调整,并避免了压缩模型存储,在泛化数据集上压缩率提升47%。https://arxiv.org/abs/2111.01662
-
On the out of distribution generalization of probabilistic image modelling (NeurIPS 2021) ,提出采用局部建模提升无损压缩的泛化能力,并据此提出强泛化性算法Nelloc,具有模型小,计算快,任意大小图片可用的特点。在泛化数据集上,与L3C相比,以1/7的模型大小将压缩率平均提升37%。https://arxiv.org/abs/2109.02639
-
iVPF: Numerical Invertible Volume Preserving Flow for Efficient Lossless Compression (CVPR 2021),首次提出用保体积流的方法做无损压缩,有效结合了通用流压缩率高与整数流速度快的优点。与通用流的SOTA算法相比,在压缩率接近的情况下,压缩/解压速度提升8.7倍。https://arxiv.org/abs/2103.16211
内容中包含的图片若涉及版权问题,请及时与我们联系删除


评论
沙发等你来抢