Bridging the Gap Between Latent and Explicit Reasoning with Looped Transformers

论文解决了什么问题

Latent Chain-of-Thought 在十亿参数以上为何落后于显式 CoT，循环模型能否在保留速度优势的同时弥合差距？

核心方法

构建 LOTUS：并行处理多个 latent block，循环 R 次，并用每个位置对应的金标准 CoT token 进行并行监督。

实验结论

• 3B 模型接近显式 CoT，同时将思考延迟降低 2.5–6.9 倍
• 循环后 latent 可被语言模型头解释为有效中间推理步骤

适合谁阅读