【论文标题】SMIL: Multimodal Learning with Severely Missing Modality 【作者团队】Mengmeng Ma,Jian Ren,Long Zhao,Sergey Tulyakov,Cathy Wu,Xi Peng 【发表时间】2021/03/9 【机 构】美国特拉华大学 【论文链接】https://arxiv.org/pdf/2103.05677.pdf 【代码链接】https://github.com/mengmenm/SMIL 【推荐理由】本文收录于AAAI2021,文章提出了一个新颖的基于元学习框架的学习策略,用于解决多模态任务中模态缺失的情况。

多模式学习中的一个常见假设是训练数据的完整性,即所有训练实例中每个模态都是完整的。尽管有研究者致力于开发新的方法来解决测试数据的模态不完全性,例如测试集中缺少部分模态,但是很少有人能够处理训练过程中的模态缺失。如果考虑到严重缺失的情况,问题将变得更具挑战性。例如,90%的训练数据中都存在着模态缺失的情况。本文首次从灵活性(训练、测试或两者兼有)和效率(大多数训练数据都有不完全模态)两个方面正式研究了缺失模态的多模态学习。从技术上讲,文章提出了一种名为SMIL的新方法,该方法利用贝叶斯元学习统一实现了两个目标。

内容中包含的图片若涉及版权问题,请及时与我们联系删除