摘要： 模型架构设计是自然语言处理中的核心问题。近些年，随着Transformer等架构的提出，很多任务上的系统性能得到了进一步的提升。本报告会对模型架构优化的前沿进展进行综述，并结合机器翻译、语言建模等方面的进展，对不同模型进行对比及分析。

个人简介： 肖桐，博士，副教授，博士生导师，东北大学自然语言处理实验室主任。2012年博士毕业于东北大学，中国中文信息学会首届优秀博士论文提名奖获得者，曾先后在日本富士施乐研究中心、微软亚洲研究院访问学习。2013-2014赴英国剑桥大学开展博士后研究。小牛翻译的技术负责人（www.niutrans.com），并主持多套机器翻译评测（比赛）系统的研发，在WMT、CWMT等评测中取得多项任务的第一。研发的NiuTrans开源机器翻译系统于2016年获得国内自然语言处理领域最高奖– 钱伟长中文信息处理科学技术奖（一等奖）。在AI、JAIR、TASL等人工智能及自然处理语言领域重要期刊及AAAI、IJCAI、ACL等顶级会议发表论文40余篇。 社会学术兼职包括：中国中文信息学会青年工作委员会副主任、中国中文信息学会信息检索与内容安全专业委员会委员等、中国计算机学会中文信息技术专委会。

内容中包含的图片若涉及版权问题，请及时与我们联系删除