Generative Low-bitwidth Data Free Quantization 作者单位:华南理工大学 论文链接:https://arxiv.org/abs/2003.03603 代码链接:https://github.com/xushoukai/GDFQ 针对无法获取原始数据得情况,为消除数据依赖的同时获得比较好的量化效果。本文的贡献在于: 1)提出了一种GDFQ的方案,该方案无需任何真实数据即可执行4bit量化。作者提出这是第一个低位宽无数据量化方法。 2)提出了一个有效的知识匹配生成器,可以通过从预训练全精度模型中挖掘知识来构建数据。生成的数据保留了分类边界知识和数据分布信息。 3)与现有无数据量化方法相比,在图像分类数据集上的实验证明了我们方法的优越性能。

内容中包含的图片若涉及版权问题,请及时与我们联系删除