AI FRONTIER
Signals worth understanding before they become obvious.
One Model to Loop Them All：面向语言模型的弹性潜在循环
论文提出 Elastic Latent Recurrence（ELR），一种训练循环语言模型的方法，使单次循环时与同规模非循环模型服务成本相同且精度相近，之后每增加一次循环都以更多推理算力换取更高精度。
- 在 4B 稠密与 30B-A3B MoE 混合模型上，ELR 单次循环在十任务平均上分别比匹配基线低 0.52 分和高 1.04 分，四次循环分别增加 7.25 分和 4.75 分。
- 在 MoE 模型中，后续循环复用首轮专家路由使混合深度更新耗时减少 11.7%，且未测得精度变化。
- 推理时仅保留最后一次循环的注意力 KV 缓存，可将注意力 KV 内存维持在一次循环水平，同时保留额外循环的大部分收益。
- 经后训练得到的 Koi-4B 单次循环在 Artificial Analysis Intelligence Index 上估计得 18 分，与 Qwen3.5-4B 相当，四次循环为 29 分。
对推理部署而言，ELR 让同一份检查点按延迟预算调节循环次数，使循环模型在单次循环时不再劣于同规模非循环模型。
SpireBench：用《杀戮尖塔》评测智能体模型的长时程策略博弈
论文提出 SpireBench，让模型游玩完整商业卡牌构筑游戏《杀戮尖塔》，在最高难度下评测 20 个大语言模型的长时程策略推理能力。
- 论文在《杀戮尖塔》最高难度下评测了 20 个大语言模型。
- 论文报告称前沿模型击败启发式基线并与普通人类玩家相当，但仍远落后于专家。
- 论文报告称最强模型在第一章的通关率与专家相当，随着流程变长差距扩大。
- 论文称对所有游戏术语做全面且自洽的重命名后，模型部分表现依赖对游戏的先验知识，且模型不会从跨局写入的记忆中改进。
对智能体开发者而言，SpireBench 提供了可定位失败环节的长时程评测，并指出模型在风险判断与记忆利用上的具体短板。
超越二元可验证奖励：面向SWE智能体的行为自奖励
论文提出行为自奖励（BSR），一种奖励细化方法，复用策略对同一任务、同一验证器结果下的轨迹进行可观察调试行为比较，将成对偏好聚合为任务局部分数并转换为有界辅助奖励。
- BSR在SWE-bench Verified和SWE-bench-Live上对Qwen3-14B与Qwen3-32B配置均报告了一致提升。
- 该方法复用策略比较同一任务、同一验证器结果下轨迹的可观察调试行为，无需单独训练奖励模型。
- BSR将成对偏好聚合为任务局部分数并转换为有界辅助奖励，在保留验证器定义的通过/失败排序的同时引入奖励对比。
- 该方法利用已收集的轨迹提供额外监督，不需要新的环境交互。
对构建SWE智能体的团队而言，BSR表明在二元测试通过/失败之外，策略自身的比较判断可作为补充学习信号，且无需额外环境交互或独立奖励模型。
Kairos：面向所有模态的字节级基础模型
Kairos 将双向门控 DeltaNet 线性注意力与滑动窗口注意力（LiZAttention2）、块级 Attention-Residual 聚合、稀疏 MoE 前馈层和多尺度字节级编解码器结合，在文本、图像、音频、视频、激光雷达和控制流共享的单一字节空间上以均匀噪声去噪目标训练。该报告先检验这一组合能否收敛，再讨论其是否有用。
- 在 1–15M 参数、纯文本、单句 440 字节的过拟合测试中，LiZAttention2 与单独窗口注意力在 3,000 步时最低损失接近 10^-3。
- 600 步后，平均最低损失从 0.018（patch 编解码器）到 0.354（深度卷积编解码器），三个随机种子排序一致。
- 共享注意力投影相对独立投影的表面优势随步数增加或数据更多样而消失，并在投影冻结时反转，属于收敛速度效应而非容量效应。
- 论文给出 200M 总参数/25M 激活参数目标的解析估算，但吞吐量数字均未实测；代码与 Python 包已公开。
对构建者而言，Kairos 目前只是可复现的收敛性验证，其字节级多模态架构在泛化与多模态训练上的价值仍待计划中的预训练验证。
ForcingBooster：面向快速自回归视频扩散的自适应分块去噪
该论文提出 ForcingBooster，一个按视频分块动态分配去噪步数的框架：简单分块提前停止，困难分块获得更多细化步数。论文报告称，该方法在视觉质量与四步基线相当的情况下，将视频分块的总去噪步数减少约 50%。
- 论文报告称，跨视频分块的总去噪步数减少约 50%。
- 论文报告称，视觉质量与四步基线相当。
- 该方法兼容大多数现有少步自回归扩散模型，仅需一个轻量路由模块和适度训练。
- 论文提交于 2026 年 10 月 8 日，编号 arXiv:2610.12625，作者为 Zekai Gu、Peng Wang、Jiahao Lu、Yongsen Mao、Cheng Lin、Yuan Liu。
对构建实时交互式视频生成与世界模型的团队而言，按分块分配去噪预算可在不改变少步自回归扩散骨干的前提下，将计算从简单区域转移到困难区域。
Google DeepMind 发布 EmbeddingGemma 2：740M 参数开源多模态嵌入模型
EmbeddingGemma 2 将文本（含代码）、图像、视频和音频映射到统一的 768 维向量空间，采用 Apache 2.0 许可，面向移动设备和笔记本等消费级硬件。
- 总参数 740M：文本主干 270M（130M transformer + 140M embedder），视觉编码器 170M，音频编码器 300M。
- 论文报告 MTEB 多语言 v2 得分为 61.36，MTEB 代码 v1 为 78.68，较前代 EmbeddingGemma 1 的 68.76 提升约 14%。
- 支持 MRL 截断至 128d、256d、512d 和 768d，最高可减少 6 倍向量存储成本。
- 上下文窗口 8,192 token，支持 100 多种语言，采用 Apache 2.0 许可。
开发者可在消费级硬件上部署单一 768 维嵌入空间覆盖文本、图像、视频和音频，并通过选择性加载编码器将有效规模从 740M 降至 270M。
MagicBeanStalk：用递归数据合成逃离RLVR零优势陷阱
论文提出MagicBeanStalk，一种自顶向下分解与自底向上递归的数据合成算法，将种子问题扩展为策略与预算校准的新训练问题，同时保留种子的推理蓝图。
- 论文报告：在固定目标策略与 rollout 预算下，约88%的开源数学语料问题在每次 rollout 中都被解出或都失败。
- 论文报告：在8个数学基准上，使用MagicBeanStalk问题进行持续RLVR，gpt-oss-120b从61.2提升至69.8（+8.6），DeepSeek v4Flash从72.4提升至77.9（+5.4），预算为16K token。
- 论文报告：在完整78K源语料上训练仅提升+1.1，其最佳过滤真实数据子集提升+5.8。
- 论文报告：在金融领域，仅用340个解答合成超过14K个可验证问题，在SecQue和FinanceBench上分别较基线提升6.9和2.4个点。
对RLVR数据构建者而言，关键指标不是语料规模，而是问题在目标策略与rollout预算下是否产生非零优势，递归合成可校准难度并保留推理结构。