循环Transformer一次就够

当前主流的推理时计算扩展方法如o1、DeepSeek-R1都依赖多轮生成-验证，延迟成本极高。这篇论文的核心发现是"并行双循环"——把同一层权重跑两遍而非堆叠更多层——可以在几乎不增加参数量的情况下精炼表示，且KV cache只膨胀2倍而非随循环次数线性增长。

之前DeepMind的AlphaCode和OpenAI的Codex系列都没有公开探索过这种"浅而宽"的循环策略，多数工程团队默认堆层数或加长思维链。如果你在做IDE实时补全或端侧代码助手，这个方法的P90延迟可能比标准Transformer低一个数量级。论文提到代码将开源，建议关注其实际吞吐数据。