在这次演讲中，Google-Thang将谈谈语言预训练和语言生成方面的最新进展。关于语言预训练，将介绍ELECTRA，不同的语言预训练学习比BERT更有效和达到的状态，在斯坦福问题回答基准(队)。在语言生成方面，他将重点介绍他们最近开发的开放域聊天机器人Meena，它在名为SSA的人类相似性度量上达到了最佳水平。

相关链接：https://m.facebook.com/vinai.io/photos/a.2326188644290473/2674135016162499/?type=3

内容中包含的图片若涉及版权问题，请及时与我们联系删除