语言是人类独有的技能，也是我们交流思想、意图和感受等信息的主要方式。

借助NLP领域大规模语言模型的东风，AI研究者在大量文本材料上训练、统计预测和生成文本，开发了许多对话智能体（conversational agents）来和人类进行交流。

尽管InstructGPT、Gopher和LaMDA等语言模型在翻译、问答和阅读理解等任务中取得了创纪录的性能水平，但这些模型也显示出许多潜在的风险和失败的模式，包括生成歧视性、虚假或带有误导性的信息。

这些缺点限制了对话智能体在应用环境中的有效使用，并引起人们对它们未能达到某些交流理想的方式的关注。迄今为止，大多数关于对话智能体一致性的方法都集中在预测和降低危害风险上。 

最近爱丁堡大学和DeepMind的研究人员发布了一篇30页的论文，探索了人类与人工对话智能体之间的成功沟通可能是什么样子，以及哪些价值观应该指导不同对话领域的互动。

论文链接：https://arxiv.org/abs/2209.00731

未来跟你对话的聊天机器人也要有不同的世界观、价值观、人生观了？

内容中包含的图片若涉及版权问题，请及时与我们联系删除