A Survey of Efficient Reasoning for Large Reasoning Models: Language, Multimodality, and Beyond

近期的大规模推理模型（LRMs），例如 DeepSeek-R1 和 OpenAI o1，通过在推理过程中扩展链式思维（Chain-of-Thought, CoT）的长度，展示了显著的性能提升。然而，一个日益增长的担忧是这些模型倾向于生成过长的推理轨迹，其中往往包含冗余内容（例如重复的定义）、对简单问题的过度分析，以及对复杂任务多条推理路径的表面探索。这种低效性为训练、推理和实际部署（例如基于代理的系统）带来了重大挑战，在这些场景中，符号经济性（token economy）至关重要。在本综述中，我们全面概述了近期旨在提高 LRMs 推理效率的努力，并特别关注这一新范式下出现的独特挑战。我们识别出常见的低效模式，考察了贯穿 LRM 生命周期（即从预训练到推理）所提出的方法，并讨论了未来研究的有前景方向。为了支持持续发展，我们还维护了一个实时更新的 GitHub 仓库，用于追踪该领域的最新进展。我们希望这篇综述能够为更深入的探索奠定基础，并激发在这个快速演变领域中的创新。

该论文试图解决大型推理模型（LRMs）在生成长链推理（CoT）时出现的低效问题，例如冗余内容、过度分析简单问题以及对复杂任务的表面探索。这种低效性对训练、推理和实际部署（如基于代理的系统）带来了挑战，特别是在需要节约令牌资源的情况下。这是一个新问题，随着LRMs的发展而逐渐显现。

论文的关键思路是全面回顾和分析提高LRMs推理效率的方法。它从预训练到推理的整个生命周期中识别了常见的低效模式，并提出了改进方法。相比当前研究，这篇论文的独特之处在于系统地总结了解决方案，并强调了在不同阶段优化推理效率的重要性，而不仅仅是依赖更大的模型或更长的推理链。

论文设计了一个全面的框架来评估和改进LRMs的推理效率，包括实验验证不同优化方法的效果。此外，作者维护了一个实时更新的GitHub仓库，跟踪领域内的最新进展，为社区提供了宝贵的资源。值得注意的是，论文没有提及具体的数据集或开源代码，但提出了一些值得深入研究的方向，例如如何动态调整推理长度以及如何结合人类反馈进一步优化模型行为。

最近的相关研究包括：1)《Improving Efficiency of Large Language Models via Adaptive Reasoning》探讨了自适应推理技术；2)《Token-Level Optimization for Efficient Chain-of-Thought Reasoning》专注于在令牌级别优化推理过程；3)《Sparse Activation Techniques in Pretraining and Fine-Tuning LRMs》研究了稀疏激活技术在LRMs中的应用。这些工作共同构成了当前关于提高LRMs效率的研究热点。