From System 1 to System 2: A Survey of Reasoning Large Language Models

实现人类水平的智能需要改进从快速、直觉的系统1到较慢、更慎重的系统2推理的过渡。虽然系统1擅长快速的启发式决策，但系统2依赖于逻辑推理以实现更准确的判断和减少偏见。基础大型语言模型（LLM）在快速决策方面表现出色，但在复杂推理方面缺乏深度，因为它们尚未完全掌握真正系统2思维所特有的逐步分析。最近，像OpenAI的o1/o3和DeepSeek的R1这样的推理型LLM在数学和编程等领域展示了专家级的表现，紧密模仿了系统2的慎重推理，并展现了类似人类的认知能力。 本综述首先简要概述了基础LLM的进步以及系统2技术的早期发展，探讨了它们的结合如何为推理型LLM铺平了道路。接下来，我们讨论了如何构建推理型LLM，分析了其特征、使高级推理成为可能的核心方法以及各种推理型LLM的演变。此外，我们还提供了关于推理基准的概述，对代表性推理型LLM的性能进行了深入比较。最后，我们探讨了推进推理型LLM的有前途的方向，并维护了一个实时更新的[GitHub仓库](https://github.com/zzli2022/Awesome-Slow-Reason-System)，以跟踪最新进展。我们希望这份综述能够成为有价值的资源，激发创新并推动这一快速发展领域的进步。

该论文试图解决构建具有人类水平智能的大型语言模型（LLM）所面临的关键挑战，特别是如何改进从快速、直觉化的系统1思维向更慢、更慎重的系统2思维的过渡。这一问题并非全新，但该研究特别关注于通过开发和优化具备复杂推理能力的LLM来实现这一目标。

关键思路在于结合基础LLM与新兴的系统2技术，以创建能够执行复杂逻辑推理的LLM。相比现有研究，该论文强调了通过模仿人类认知中的系统2思维方式——即深思熟虑、逐步分析的过程——来增强LLM的推理能力。这为提高LLM在需要精确判断和减少偏见的任务上的表现提供了新的方向。

论文中值得关注的亮点包括：1) 分析了当前基础LLM的局限性，特别是它们在复杂推理方面的不足；2) 提出了构建具备系统2思维能力的LLM的具体方法和技术路径；3) 使用多个基准测试对不同LLM的表现进行了深入比较；4) 提供了一个GitHub仓库以追踪最新进展。此外，文中提到的研究如OpenAI的o1/o3和DeepSeek的R1展示了专家级性能，表明这些模型在特定领域（如数学和编程）上接近人类水平的认知能力。

近期相关研究还包括：《Transformers for Logical Reasoning》探讨了转换器架构在逻辑推理任务中的应用；《Enhancing LLMs with External Knowledge for Complex Reasoning》研究了外部知识库对复杂推理的支持作用；《System 2 in AI: Challenges and Opportunities》概述了在AI中实现系统2思维的挑战与机遇。