【论文标题】Neural Data Augmentation via Example Extrapolation 【作者团队】K Lee, K Guu, L He, T Dozat, H W Chung 【发表时间】2021/2/1 【机构】Google Research 【论文链接】https://arxiv.org/pdf/2102.01335.pdf
【推荐理由】本文来自Google Research,文章提出了一个基于样本外推的神经网络数据增强模型。 在机器学习的许多应用中,训练数据中某些类别的示例可能得不到足够的代表,从而导致系统在测试时对这种少样本案例表现不佳。常见的解决办法是进行数据增强,例如通过复制代表性不足的样本或者启发式地创造新示例。但是这些补救措施通常无法涵盖真实示例的全部多样性和复杂性。基于此,文章提出了一种执行神经示例外推(Ex2)的数据增强方法。给定从某个分布中采样的少数样本,Ex2合成了也属于同一分布的新示例。通过在数据的数据丰富切片上模拟示例生成过程来学习Ex2模型,并将其应用于代表性不足的少样本切片。最后,作者将Ex2应用于一系列自然语言理解任务,并在多个快速学习基准上显着改进了最新技术,包括关系提取、意图分类和槽位填充等任务。
内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢