论文标题:Data Augmentation Approaches in Natural Language Processing: A Survey
论文链接:https://arxiv.org/abs/2110.01852

这篇40多页的综述出自哈工大车万翔老师的团队,一共总结了15种NLP可以用到的数据增强方法、优缺点,还有一些使用技巧,十分良心。

数据增强(Data Augmentation,简称DA),是指根据现有数据,合成新数据的一类方法。毕竟数据才是真正的效果天花板,有了更多数据后可以提升效果、增强模型泛化能力、提高鲁棒性等。然而由于NLP任务天生的难度,类似CV的裁剪方法可能会改变语义,既要保证数据质量又要保证多样性,使得大家在做数据增强时十分谨慎。

作者根据生成样本的多样性程度,将DA方法分为了以下三种:

  1. Paraphrasing:对句子中的词、短语、句子结构做一些更改,保留原始的语义
  2. Noising:在保证label不变的同时,增加一些离散或连续的噪声,对语义的影响不大
  3. Sampling:旨在根据目前的数据分布选取新的样本,会生成更多样的数据

内容中包含的图片若涉及版权问题,请及时与我们联系删除