From AGI to ASI

过去十年间，构建人类水平的人工通用智能（AGI）已从遥不可及的臆想，转变为众多顶尖人工智能机构明确设定的“未来十年”核心目标。实现这一目标将对人类社会产生深刻而广泛的影响，由此引出大量亟待解答的复杂问题。本报告聚焦于后AGI时代人工智能自身的发展路径，探讨其如何沿着机器智能连续谱持续演进。该连续谱的终点——“通用人工智能”（Universal AI）——在理论上已有较为扎实的理解，这为本报告的核心议题提供了形式化基础：即从人类水平的AGI向人工通用超级智能（ASI）的过渡过程；直观而言，ASI指一种在智能水平与认知能力上全面超越大型人类组织的系统。在对ASI进行界定之后，本报告梳理了从AGI迈向ASI的四条潜在路径：AGI的规模扩展、人工智能范式的根本性转变、递归式自我改进，以及由大规模多智能体协同系统自然涌现ASI。随后，报告进一步分析了上述各路径中可能存在的摩擦阻力与关键瓶颈。判断这些阻力的影响究竟微乎其微还是举足轻重，本身便引出了若干亟待深入探索的具体开放性研究问题。鉴于预测ASI发展进程存在巨大不确定性，我们无法排除人工智能进步在未来数年内持续加速的可能性。这意味着，社会普遍设想的“人类水平AGI一经问世，便引发单一、突变式社会变革”的图景，或许并不准确；更贴切的前景反而是：人工智能赋能下的科学与技术各领域接连取得突破与进展，从而催生一系列渐次展开、相互交织的变革性社会转型。应对这一前景，需要一场覆盖全球、高度跨学科的宏大协作努力，其广度与重要性前所未有。

论文试图系统性地探讨在实现人类水平人工通用智能（AGI）之后，AI如何进一步演化至人工超级智能（ASI）——即认知能力超越大型人类组织的系统；该问题并非实证科学问题，而是一个面向未来、兼具理论建模与战略预判性质的前瞻性研究问题，虽非全新（已有Bostrom、Yudkowsky等早期哲学/安全文献），但首次以‘AGI→ASI连续体’为框架、结合四条具体技术路径进行结构化分析，在AI治理与技术路线规划领域具有新意。

提出‘AGI到ASI的连续演化’范式，摒弃单点奇点假设，将ASI建模为可分析的工程-社会复合过程；核心创新在于系统识别并形式化四条非互斥路径：（1）单纯缩放现有AGI（scaling），（2）基础AI范式跃迁（如从统计学习转向符号-神经混合或因果推理），（3）自主递归自我改进闭环，（4）大规模多智能体协同涌现；强调瓶颈（frictions）而非必然性，并将不确定性作为关键输入变量。

未开展实证实验（无数据集、无代码）；属概念性政策与技术路线图报告，亮点在于：首次将‘Universal AI’（理论完备的终极AI）作为形式化锚点；明确区分ASG（artificial supergeneral intelligence）与传统‘superintelligent AI’定义，强调组织级认知能力；提出‘摩擦矩阵’（如对齐瓶颈、硬件边际收益衰减、社会制度滞后）作为评估各路径可行性的分析工具；呼吁跨学科协作，呼应Andrew Ng一贯主张的‘AI as tool, not oracle’务实立场；报告本身开源发布，附详细参考文献与开放式研究问题清单。

Nick Bostrom (2014) 'Superintelligence: Paths, Dangers, Strategies'; Eliezer Yudkowsky (2008) 'Artificial Intelligence as a Positive and Negative Factor in Global Risk'; Shane Legg & Marcus Hutter (2007) 'A Collection of Definitions of Intelligence'; David Krueger et al. (2021) 'Grandmaster level in StarCraft II using multi-agent reinforcement learning'; Eric Drexler (2019) 'Reframing Superintelligence: Comprehensive AI Services as a Path to High-Level Machine Intelligence'; OpenAI (2023) 'Preparing for the Next Era of AI: From AGI to ASI'}