在上一届 DSTC 比赛中，百度 PLATO-2 模型夺得多个任务冠军；本次比赛，百度结合了最新发布的全球首个百亿参数对话生成模型 PLATO-XL，在赛题难度加大的情况下，凭借强大的技术实力再次拿下多个冠军。
加入错误干扰数据 知识型任务口语赛道难度空前 
任务型对话基于知识为用户提供口语化的信息查询、指令执行等智能服务。今年 DSTC 的知识型任务口语对话赛道由对话状态追踪和知识对话两项核心子任务构成，这两项任务是判断对话系统能否在多轮对话中准确理解用户意图、正确传递信息的关键。
为了更接近真实场景，该赛道首次在竞赛中使用了带有自动语音识别（Automatic Speech Recognition, ASR）错误干扰的口语对话数据。下图展示了验证集中的一个对话片段，口语的表述更加复杂多样，且 ASR 错误带来的干扰很大（作为参考，灰色部分为人工再次核查录音，校正后的对话内容）。相比于传统对话系统中采用的众包数据，该赛道不仅训练数据缺乏，而且数据噪音大，这对正确理解用户信息并保持高质量的回复是一项极大的挑战。
知识型任务口语对话赛道 ASR 错误示例：灰色字体为专家根据对话内容恢复的准确文本。红色字体为 ASR 错误内容。
那么在激烈的竞争中，百度是如何在这一赛道拿下两项任务全部冠军的呢？
对话状态追踪任务大幅领先  创新提出多层级数据增强框架
在任务 1 对话状态追踪任务中，参赛系统需要完成多领域对话状态追踪，正确识别出用户意图和槽位。首先，针对训练数据匮乏的难题，百度团队创新地提出了多层级数据增强方法，通过对已有对话进行实体替换、基于对话动作随机游走、口语模拟增强等技术，自动构造了数十万的多轮口语对话。然后，依托对话生成预训练模型 PLATO，进行对话追踪任务端到端建模，即根据多轮对话上文自动生成意图和槽位，大幅提升模型鲁棒性。最终联合目标准确率（Joint Goal Accuracy）达到 0.4616，超越第二名十个百分点，以绝对的优势夺得第一。
知识对话任务榜单（前五名），B10 为百度团队。第一行（Ground Truth）为人类标注。对话从准确性（Accuracy）, 合适性（Appropriatenesss）两个角度进行评估。
对话系统是自然语言处理领域最具挑战性的技术之一，尤其是实际应用场景下，数据高噪声、多歧义，比学术研究数据更复杂、更具挑战性。通过此次 DSTC10 竞赛，百度再次锤炼了 PLATO 模型的鲁棒性，同时验证了知识增强策略的应用效果，并为解决产业应用中的实际问题提供了全新思路。未来，百度 AI 还将持续技术创新与突破，实现让对话更有知识、有情感、有逻辑的目标。
百度 PLATO 系列模型完全基于百度自主研发的深度学习平台飞桨。DSTC10 的冠军解决方案也会陆续开源到 GitHub，对智能对话感兴趣的小伙伴千万别错过。同时，百度也推出了「百度 PLATO」微信公众号，大家可以体验基于 PLATO 的中文对话效果。

内容中包含的图片若涉及版权问题，请及时与我们联系删除