日益强大的人工智能系统有望加速科学进步、开发新的医疗治疗方法并促进经济增长。然而，这些AI的新能力也带来了显著的风险。政府应在未来18个月内紧急采取行动制定AI政策，因为主动预防风险的窗口期正在迅速关闭。明智且有针对性的监管可以让我们在实现AI好处的同时减轻风险，拖延可能会导致最糟糕的结果：既阻碍进步又无法有效预防风险的仓促立法。本文提出了一些原则，旨在指导政府如何在支持AI科学和商业领域创新的同时，有意义地减少灾难性风险。在过去一年中，AI系统在数学、研究生水平的推理和计算机编程等方面取得了巨大进步，这进一步突显了采取行动的紧迫性。

本专栏通过快照技术转载，仅保留核心内容

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除