一味追求大模型是不是走错了路?

未来最有影响力的进展是会来自工业界还是学术界?

语言模型到底有没有理解语言?

我做的研究到底有没有价值?

......

最近,一项针对 NLP 社区的调查反映了 NLPer 对所有这些重要问题的看法。来自华盛顿大学、纽约大学和约翰霍普金斯大学的组成的研究团队,就 NLP 领域的一些争议性问题征求了广大研究者的意见,包括研究者在大模型、AGI(通用人工智能)、语言理解、未来方向等多个方面的看法。

论文地址:https://nlpsurvey.net/nlp-metasurvey-results.pdf

调查结果真是一看吓一跳,竟有多达 67 % 的 NLP 研究者对自己所从事研究的科学价值抱有怀疑态度!

还有网友吐槽:连塔罗牌都比 NLP 靠谱。

其他受访者同意比例相当高的观点还有:

  • 被引用最多的研究成果将来自工业界而不是学术界,如今工业界在引领 NLP 领域发展进程方面的影响力过大;
  • 反对最大化规模可以解决一切问题的假设;
  • “NLP 寒冬”将在未来 30 年内来临;
  • NLP 研究人员应该关注 AGI;
  • NLP 研究人员应该更多考虑整合来自邻近学科(如语言学、认知科学)的见解;
  • 过去 5 年发表的构建可解释模型的大多数研究都走错了方向;等等。

首先简单介绍一下本次调查的受访者情况:

共有 480 位 NLPer 参与了此次调查。其中 327 人在过去三年中至少发表过两篇 ACL 论文,这部分人是调查的目标人群。

在地区分布上,受访者中的 58% 来自美国,23% 来自欧洲,8%来自亚洲。其中,来自中国的 NLP 研究者占 3%。

73% 的受访者来自学术界,22% 的受访者来自工业界,4% 从事非营利组织或政府工作。其中,教师和高级管理人员占 41%,23% 是初级研究人员(包括博士后),33% 是博士生,2% 是硕士研究生或本科生。

另外,受访者的男女比例分别为 67% 和 25%。

图片