Thousands of AI Authors on the Future of AI

这是迄今最大规模的一项调查，共有2,778名曾在人工智能（AI）顶级期刊上发表过文章的研究人员就AI进展的速度、先进AI系统的性质和影响进行了预测。综合预测显示，到2028年，AI系统有至少50%的概率实现几个里程碑，包括自主从头构建一个支付处理站点、创作一首与流行音乐人的新歌无法区分的歌曲，以及自主下载和微调一个大型语言模型。如果科学发展持续不断，到2027年，无需人类干预的机器在所有可能的任务中超越人类的概率被估计为10%，到2047年则为50%。后者比我们仅一年前进行的一项类似调查的结果提前了13年[Grace et al.，2022]。然而，所有人类职业完全可自动化的概率预计到2037年为10%，到2116年为50%（与2022年调查的2164年相比）。大多数受访者对AI进展的长期价值表达了相当大的不确定性：虽然68.3%的人认为超人类AI的好结果比坏结果更有可能，但在这些净乐观主义者中，48%的人给出了至少5%的极端糟糕结果（如人类灭绝）的概率，而在净悲观主义者中，59%的人给出了5%或更高的极端良好结果的概率。在38%到51%的受访者中，至少有10%的人认为先进的AI可能导致像人类灭绝这样糟糕的结果。超过一半的人认为，有关六种不同与AI相关的情景，包括错误信息、威权控制和不平等，应引起“重大”或“极端”的关注。关于快速或缓慢的AI进展对人类未来的影响哪种更好，存在分歧。然而，有广泛的共识认为，应更加优先考虑旨在最小化AI系统潜在风险的研究。

预测人工智能发展的趋势和可能带来的影响，以及对于人工智能潜在风险的关注度

通过对2788位人工智能领域研究人员的调查，预测人工智能发展的趋势和可能带来的影响，同时关注人工智能的潜在风险，并呼吁更多的研究用于减少人工智能潜在风险。

预测人工智能系统在2028年前能够自主构建付款处理网站、创作与流行音乐家无异的新歌曲、自主下载和微调大型语言模型；预测机器在2027年前有10%的几率在所有任务上超过人类，在2047年前有50%的几率；预测所有人类职业被完全自动化的10%的几率在2037年前出现，50%的几率在2116年前出现；68.3%的受访者认为超人类人工智能的好处比坏处多，但48%的乐观主义者认为极端恶劣的后果至少有5%的几率发生，59%的悲观主义者则认为极端良好的后果至少有5%的几率发生。

Grace et al. (2022)