都在卷「让大模型多循环几遍」，这个7B模型LoopCoder v2说：多循环 1 次就够了

以下文章来源于机器之心

近期，由澜舟科技、北京航空航天大学、IQuest Research和中国人民大学联合团队共同提出的最新研究成果《Only Loop Once》正式发布。

当推理模型动辄输出成千上万个思考token、循环式架构反复迭代时，我们联合团队反手泼了盆冷水：一个7B的小模型，只需要在正常计算之外“多循环这一次”（总共2次），就能在号称最难的真实代码修复基准SWE-bench Verified上从43.0分飙到64.4分；而继续往上加循环，不仅不涨，反而一路跳水。

论文标题起得很干脆——《Only Loop Once》，只循环一次。我们很荣幸能作为联合团队的一员，参与这项打破“循环越多越强”行业直觉的研究。

论文标题：LoopCoder-v2：Only Loop Once for Efficient Test-Time Computation Scaling
论文地址：https://arxiv.org/pdf/2606.18023
研究团队：北京航空航天大学 · IQuest Research · 澜舟科技 · 中国人民大学
模型主页（HuggingFace）：huggingface.co/Multilingual-Multimodal-NLP/LoopCoder-V2

▲ 核心结论一图流：多循环带来「精修收益」，也带来几乎恒定的「位置错配成本」；收益在第 2 次循环达到峰值后迅速衰减，于是「只循环一次（共 2 次）」成为最优解。

“循环”，当下最热的卷法

自从 o1、Claude 这一代推理模型把「想得越久越强」写进行业共识，「测试时计算」（test-time compute）就成了过去一年最热的方向：与其把模型练得更大，不如让它在推理时多花点算力，把答案反复打磨。要理解这项研究，先得知道大家具体在卷什么。

过去想让模型更强，常规操作是把网络堆得更深、参数更多。而「循环式」大模型（Looped / Recurrent-depth LLM）换了个思路：不堆新层，而是让同一套参数，在「脑子里」把内部表征反复打磨好几遍。打个比方，这就像同一个人把一道题在心里默默重算几遍，而不是请来更多人、或者把草稿纸写满——它是一种省参数的「测试时计算」（test-time compute）。

听起来很美，但有个硬伤：顺序循环太贵。每多循环一次，就要多走一遍计算，延迟和 KV-cache 显存都跟着循环次数线性上涨。想多循环，算力扛不住。

并行循环 Transformer（Parallel Loop Transformer，PLT）就是为了解决这个问题。它用两招把成本摁了下去：一是 CLP（跨循环位置偏移），打断循环之间的串行依赖，让多次循环可以并行计算；二是 G-SWA（共享 KV 的门控滑窗注意力），让显存几乎不随循环次数增长。成本被压平之后，「循环几次」第一次变成了一个可以自由拧的旋钮。

旋钮拧大 ≠ 更强：第2遍封顶，第3遍跳水

问题来了：这个旋钮，到底拧到几合适？

团队干脆从零训了一整个家族：7B 稠密模型，18T token、文本与代码 1:1、覆盖 100 多种编程语言，前后烧掉约 100 万 GPU 小时。唯一的变量，就是循环次数。结果非常反直觉：

多循环一次（共 2 次）几乎全面碾压「不循环」的 baseline——SWE-bench Verified 从 43.0 → 64.4，多语言版从 14.0 → 31.0，LiveCodeBench 从 27.4 → 35.4，十项基准平均分从 38.0 → 46.5。但循环到 3 次、4 次，性能直接跳水：SWE-bench 掉到 27.6、22.4，平均分甚至不如不循环。

更能说明问题的是横向对比：这个 7B、只多循环一次的模型，在 SWE-bench Verified 上的 64.4 分，超过了 2350 亿参数的 Qwen3-235B（45.2 分），逼近 Kimi-K2（69.2）、Qwen3-Coder-480B（67.0）这些大它几十倍的开源旗舰。在偏「动手干活」的 agentic 任务上提升尤其明显：终端操作基准 Terminal-Bench 两个版本分别从 26.3 → 34.2、11.2 → 21.0（后者接近翻倍），工具调用 BFCL 从 32.2 → 40.1，提升都相当可观。换句话说，这次性能跃升不是靠更大的模型堆出来的，而是靠「多想了一遍」。

为什么“多循环一次”就够了？

我们联合团队没有止步于“2次最好”这个调参结论，而是把模型内部拆开，算了一笔“收益——成本”账。

先看收益侧。研究者用三把「探针」——隐状态的演化、注意力的路由、输出分布的变化——同时观察每一次循环到底干了什么，只有三者一致时才下结论。结论是：第 2 次循环几乎包办了所有「有用的精修」——隐状态朝同一方向稳步收敛、注意力重新分配、输出分布明显改善，表征多样性（effective rank）也在这一步达到峰值。再往后，更新越来越小、甚至开始来回震荡（方向反转），注意力路由基本「冻结」，后面的循环近乎空转。

再看成本侧。CLP 为了让循环能并行，做了一个取巧：从第 2 次循环起，每个 token 拿到的是「邻居」上一轮的状态，而不是它自己的。这就引入了一个固定的「位置错配税」——团队把它量化成一个能直接从模型内部状态算出来的指标 Ω，并发现它在每一次循环几乎恒定不变。

▲ 蓝线是每次循环的「精修收益」，第 2 次之后急剧塌缩；红线是 CLP 的「位置错配成本」，几乎恒定不降。一涨一平之间，第 2 次循环成为最优平衡点。

两条曲线一对照，故事就清楚了：精修收益（蓝线）在第 2 次循环后崩塌、再也没能恢复；而错配成本（红线）一直高位横盘。收益递减、成本恒定，于是超过 2 次，错配的代价就盖过了精修的收益，性能自然掉头向下。这也意味着，「循环到几次最好」不必靠昂贵的暴力扫 benchmark 一个个试，而是可以用这些内部诊断指标提前看出来。

对行业意味着什么

作为联合研发方，澜舟科技认为这项工作的价值不止于训了一个能打的代码模型。

它首先给“测试时计算=越多越好”踩了一脚刹车：至少PLT这类并行循环架构里，存在一个明确且偏低的“甜点”，盲目加循环是负收益。其次，它提供了一套靠可解释性指标来选择循环次数的诊断方法。最后，对端侧和小模型尤其友好——7B只要多循环一次，就能在真实软件工程任务上越级。

我们团队也指出了值得继续挖的方向：让位置偏移变得自适应、根据任务动态分配循环次数，以及搞清楚“内部循环”和模型显式思维链（CoT）之间的配合关系。

在这个比拼“谁算得更多”的时代，我们想说：有时候，多想一遍就够了。

更多推荐阅读👇

立即体验

LangClaw企业可信智能体操作系统现已开放体验，快来创建你的数字员工吧。

👉 扫码/进入官网申请产品试用：