AI FRONTIER
Signals worth understanding before they become obvious.
为何亚4比特视觉CNN会崩溃,以及混合精度恢复的极限在哪里
该论文在完整的50,000张图像ImageNet-1k验证集上系统分析了标准视觉CNN(包括ResNet和EfficientNet骨干网络)的量化崩溃过程,并提出一种多步恢复瀑布方法。
- 崩溃呈高度非线性,集中在后期逐点投影和深度可分离层。
- 将不到5%的关键层激活保持在8位精度,可恢复激进亚4比特压缩中损失的最多92%的准确率。
- 在标准ARM和x86 CPU架构上,标准运行时软件位解包带来1.48倍至21.5倍的执行减速,具体取决于批大小。
对边缘视觉开发者而言,亚4比特权重节省的是存储而非吞吐,因此混合精度恢复应针对后期逐点投影和深度可分离层,并需实测解包开销。
thinkingmachines/Inkling-2-Mini:26.4B 多模态循环 Transformer 开放权重发布
Thinking Machines Lab 发布 Inkling 2 Mini,一个原生多模态循环 Transformer,总参数 26.4B、激活参数 3.4B,采用 Apache 2.0 许可并开放权重。模型支持文本与图像输入,上下文窗口最高 1M tokens。
- 总参数 26.4B,激活参数 3.4B;中间 12 层以共享权重运行三次,每 token 共 48 层应用,等效激活参数 5.4B。
- 架构为 24 层 decoder-only 稀疏 MoE,每层每 token 路由至 128 个专家中的 8 个,注意力为局部与全局混合。
- 以约 20GB 单一 checkpoint 分发,采用 NVFP4 与 MXFP8 混合精度,支持 1x NVIDIA DGX Spark 及 32GB 以上内存的 Apple silicon 本地推理。
- 模型卡报告 SWEBench Verified(仅 bash)79.2%、SWEBench Pro v2 (Hard) 77.9%、MMMU Pro Standard 10 74.9%、OmniDocBench v1.6 92.8%。
对构建者而言,这是一个可在 32GB 级本地硬件上运行的多模态开放权重模型,但模型卡自述其知识召回弱于 Inkling 2 Small,且代理任务中可能未经确认执行破坏性操作,需配合沙箱与人工审核。
Hugging Face 推出 harness adapters:用 RL 为特定 agent harness 定制模型
Hugging Face 发布一套可复用配方:在 Pi、OpenCode 和 Hermes Agent 三个 harness 内用 RL 为 Qwen3.8-27B 各训练一个 LoRA 适配器,并将三者合并为一个可在三个 harness 下通用的 super adapter。
- 论文报告:Qwen3.8-27B 在 pi harness 下 Terminal-Bench 2.1 得分为 39%,平均每任务 2.9K tokens;冻结权重并加入 RL 训练的 LoRA 适配器后达到 55% pass@1,平均 token 用量 1.5K。
- 每个适配器使用 NVIDIA 2×B200 GPU 训练,一块用于 vLLM 服务,一块用于训练进程。
- 最终数据混合为 750 个来自 harness-adapters RL 环境的任务加 300 个来自 termgrade 的任务。
- 数据集 harness-hub/agentic-coding-envs 含 871 个任务、来自 35 个仓库,其中 171 个为 GRPO 训练用的 qualified 子集。
对构建 agent 的团队而言,这意味着可以在自己实际部署的 harness 内做 RL 微调,以更少 token 换取更高通过率,而不必更换基础模型。
训练语言模型实现内省式监督
论文提出内省式监督:在模型中新增独立的第三人称观察者角色,回答关于助手的问题,并按与助手实际行为核验的结果给予奖励。在五项留出监督评估中,基于 Qwen3.6-27B 训练的观察者平均 AUROC 为 0.907。
- 基于 Qwen3.6-27B 训练的观察者在五项留出监督评估中平均 AUROC 为 0.907。
- 对比基线:诚实训练 0.864、转录监控 0.828、激活预言机 0.796。
- 论文报告称,训练观察者后助手本身更易被监控,所有基线方法在微调后的助手上平均均有提升。
- 论文共 31 页、13 幅图、8 张表,提交于 2026 年 11 月 17 日。
对构建者而言,这表明可训练一个与助手分离、仅以准确性为目标的观察者角色,作为外部转录监控和激活解码器之外的监督路径。
Watch Where You Linearize:预测并校正模型合并中的干扰
该论文表明,任务A输出沿任务B向量的方向导数可预测干扰,但仅在接收模型处评估时有效;基于此构建的LR-Merge通过无标签凸教师匹配优化合并系数。
- 在接收模型处,该导数可预测邻近合并(按任务和按样本),将无变化基线的准确率误差减半,并识别出大多数预测翻转的样本。
- 完整多任务合并需要沿合并路径进行两次评估,单次评估不足。
- 在共享预训练骨干处,该导数在视觉实验中与实现的变化近乎正交,在LoRA语言模型试点中仅部分具有预测性。
- LR-Merge改进了所有测试的闭式、各向同性和稀疏化基础合并器,增益通常随合并任务增多而增大;与通过合并网络的精确教师匹配相比,后者收敛约慢三倍,在同等计算预算下表现相似。
构建者可在接收模型处评估方向导数,以低成本预测合并干扰,并用LR-Merge的无标签凸教师匹配替代昂贵的系数搜索。
Where the Tokens Go:智能体编程中的热、熵与误差
该论文提出软件热力学理论,将编码智能体生成的token计为成本并划分为功与热,通过让智能体反复修改再撤销仓库改动来测量每次模型调用的token消耗。
- 论文报告:一次成功运行约80%的token产生于未改变目标改动的模型调用,作者称之为热。
- 论文报告:按Jarzynski等式类比估计,一次改动的自由能为成功编码运行平均成本的14%至22%。
- 论文报告:编码成本是撤销编码成本的1.1至1.5倍。
- 论文报告:重复循环中成本的离散度定义了软件温度,该温度随模型采样温度升高而上升。
该框架提示构建者可将智能体token开销拆分为有效功与无效热,从而定位并削减未推进改动的模型调用。
RFBench:面向无源射频版图设计与理解的仿真器接地多模态基准
论文提出RFBench,一个基于仿真器的数据集与基准,用于评估多模态语言模型在无源射频版图设计与理解上的能力,涵盖7项任务。
- 数据集包含10,000个双端口平面版图,使用ADS Momentum仿真。
- 每个版图包含可编辑几何图元、栅格图像、16x16占用网格、201个频点的复数S参数、结构类别和射频响应标签。
- 定义了7项任务,涵盖规格条件下的版图生成、表示转换、响应预测、基于仿真器的验证、设计诊断与改进、结构理解和响应分类。
- 论文报告称,射频专用微调将T1a结构有效性从0.0%提升至83.2%,将T3图元输入2-dB内比率从17.7%提升至62.8%。
射频专用微调能大幅提升结构有效性和响应预测精度,但论文报告的结果显示,在生成电磁可信的版图方面仍有很大提升空间。
PRKV:面向KV缓存驱逐的全局重要性估计
论文提出PRKV,一种免训练的KV驱逐方法,通过在注意力诱导的转移图上应用Personalized PageRank来估计多跳全局token重要性,从而在不修改模型的情况下实现超越近因性或瞬时注意力的重要性传播。
- PRKV为免训练方法,不修改模型。
- 在最高90%的中度至激进压缩率下,PRKV在长上下文理解、稀疏检索和思维链推理任务上取得与既有驱逐基线相当的任务表现。
- 该方法在降低峰值内存用量的同时保持较低的端到端开销。
- 论文被NeurIPS 2026接收,作者为Seojin Kim与Noseong Park。
对构建长上下文推理的开发者而言,PRKV表明用多跳全局影响力估计替代近因性或瞬时注意力打分,可在高压缩率下维持任务表现并降低峰值内存。