OpenAI 研究人员与乔治敦大学的安全与新兴技术中心和斯坦福互联网观察站合作，调查大型语言模型如何被滥用于虚假信息目的。此次合作包括 2021 年 10 月的一次研讨会，汇集了 30 名虚假信息研究人员、机器学习专家和政策分析师，并最终在一年多的研究基础上共同撰写了一份报告。这份报告概述了语言模型如果用于增强虚假信息活动对信息环境构成的威胁，并介绍了一个用于分析潜在缓解措施的框架。

随着生成语言模型的改进，它们在医疗保健、法律、教育和科学等不同领域开辟了新的可能性。但是，与任何新技术一样，值得考虑如何滥用它们。在反复出现的在线影响力操作（影响目标受众意见的隐蔽或欺骗性努力）的背景下，本文提出了以下问题：

语言模型的变化会如何影响操作，可以采取哪些步骤来减轻这种威胁？

报告全文：https://cdn.openai.com/papers/forecasting-misuse.pdf

内容中包含的图片若涉及版权问题，请及时与我们联系删除