AI FRONTIER
Signals worth understanding before they become obvious.
BEVCast:面向高效端到端自动驾驶的路径自适应BEV
BEVCast采用两阶段BEV,其分辨率随预测行驶路径自适应调整:先用4.096米粗网格编码全场景,再由热力头选出高热度单元在固定预算下细化到1.024米,其余单元保持粗分辨率。
- 在10%细化预算下,BEVCast编码28%的BEV查询,batch size为1时BEV编码器耗时为全1.024米网格的66%。
- 在nuScenes上,平均位移误差为1.078米,对比1.149米;可行驶区域违规率为1.46%,对比2.29%。
- 在NAVSIM navtest上,平均位移误差为0.577米,对比0.598米;扩展预测驾驶员模型得分为82.51,对比81.28。
- 该方法无需HD地图或导航指令,轨迹头读取的混合分辨率BEV仍覆盖整个场景。
对自动驾驶BEV感知而言,按预测路径分配分辨率可在保持全场景覆盖的同时削减查询量与编码器耗时,为端到端模型提供可调的计算预算。
InstaGen:面向快速视频生成的组共享重要性采样
论文提出 InstaGen,将扩散 Transformer 的置换块稀疏注意力(PBSA)中的块选择重新表述为重要性采样:由最高分键构成精确集合完整计算,其余键按估计注意力比例采样并用逆采样概率重加权,每个查询簇共享一个样本。
- 在 Wan2.1-T2V-1.3B 与 Wan2.1-T2V-14B 上,以 SVG2 参数化的 InstaGen 在相同注意力密度下 PSNR 较 SVG2 分别提升 3.4 dB 和 2 dB。
- 在相同墙钟时间下,PSNR 分别较 SVG2 提升 1.6 dB 和 2.2 dB。
- 在 Wan2.1-T2V-14B 上,InstaGen 在密度几乎相同时 PSNR 较 SVG-EAR 高出 1.1 dB,且相对稠密实现加速 1.65x,而 SVG-EAR 为 1.48x。
- 论文指出 top-p 选择在高熵注意力机制下样本效率低,而采样在相同计算预算下可提供更好的近似。
将块稀疏注意力选择从 top-p 改为精确集合加重要性采样,可在不增加注意力密度或延迟的情况下直接提升视频扩散模型的生成质量。
强制选择字母会抑制拒绝:来自WMDP的机制性证据
该论文首次对多选题格式降低拒绝率的现象给出机制性解释,在WMDP数据集上测试了Llama-3.1-8B和Qwen3-8B两个模型。
- 使用tuned lens技术显示,处理多选题时模型很快锁定答案字母token,而开放式格式下拒绝是逐步形成的。
- 多选题格式下的激活值距离拒绝方向约为开放式对应激活的3倍远。
- 消融承载多选题答案的注意力头会增加拒绝行为,直接表明多选题答案选择与拒绝存在竞争。
- 论文被BlackboxNLP 2026(EMNLP 2026 workshop)接收,共17页、15张图。
构建安全评测的开发者应注意,多选题安全分数主要衡量知识能力,无法反映模型真实的拒绝机制。
ccore/Qwen3.5-4B-3D-Coder 早期预览:专注 Three.js 3D 场景生成
这是 CCORE 基于 Qwen/Qwen3.5-4B 独立微调的 4B 模型早期预览,聚焦通用编码与 Three.js 交互式 3D 场景生成,并非 Qwen 官方发布。已提供 FP16 Safetensors 权重、Q4_K_M 与 Q8_0 GGUF 版本、训练数据集和技术报告。
- 模型卡显示点赞 947、上月下载 289,466,采用 Apache-2.0 许可证。
- 训练数据集 CCORE Three.js 3D Scenes 含 4,146 个场景示例(3,933 训练 / 213 验证),以 MIT 许可证发布。
- Q4_K_M 与 Q8_0 GGUF 可配合约 644 MiB 的 BF16 视觉投影器接收图像输入,作者称已在 llama.cpp b11889 本地测试。
- 作者称 10 月 27 日检查点显著提升了一次成功率与场景质量,但部分场景仍需重试或修正。
对构建 3D 或创意编码工具的开发者而言,这是一个可本地部署、附带公开数据集与量化版本的小模型,适合先做 Three.js 场景生成的微调与评测实验。
OpenAI 推出 Control Room:对 AI 工作负载实施人工控制
OpenAI 的 Control Room 可追踪其研究基础设施中的模型工作负载,并在出现安全或安保问题时快速将其停止。
- Control Room 追踪 OpenAI 研究基础设施中的模型工作负载。
- 当出现安全或安保问题时,Control Room 可快速停止这些工作负载。
对于在共享研究基础设施上运行模型的团队而言,Control Room 表明快速停止能力正被作为一项独立控制层来构建,而不再依赖各工作负载自身的防护措施。
高维离策略评估:无需样本分割的Onsager校正方法
论文提出一种经Onsager校正、按目标策略加权的准则,仅用奖励模型的训练观测即可估计其在目标策略下的全数据样本外风险,从而无需样本分割即可在全数据梯度下降轨迹上做早停。
- 论文证明:在固定深度与隐藏宽度的神经网络、高斯上下文、单指标奖励、上下文相关的多指标目标策略以及已知的上下文无关日志记录条件下,该准则在固定有限个梯度下降迭代点上具有一致一致性。
- 同一校正给出一个双重稳健估计量,即使奖励模型预测误差不消失,也能在无样本分割的情况下一致估计真实策略价值。
- 实验显示,在固定样本维度比下,风险估计误差随维度增加而下降,且奖励模型选择优于留出法基线。
- 论文报告该校正降低了用同一批数据拟合与选择奖励模型时双重稳健价值估计的均方根误差。
对做离策略评估的AI开发者而言,这意味着可以在不牺牲数据做留出集的前提下,用全数据训练轨迹直接选择奖励模型并得到双重稳健价值估计。
VoluCompose:为医学图像理解构建紧凑的体积视觉表示
VoluCompose 是一个免训练、模型无关的框架,将保留哪些视觉内容与分配多少 token 分离,通过双曲 token 组合模块和基于注意力熵的容量控制模块压缩体积医学图像。
- 论文报告在九个校准设置中,VoluCompose 在比较方法中取得最高的平均质量—保留超体积。
- 论文报告相对未压缩参考的平均相对质量为 121.68%,同时平均仅保留 22.78% 的视觉 token。
- 论文报告在 10% token 预算下压缩仍然稳健,VoluCompose 相对未压缩参考的最低 ROUGE-L 比率为 96.4%。
- 论文报告压缩基线对应的最低值范围为 15.0% 至 70.5%。
对于构建医学视觉—语言模型的开发者,VoluCompose 表明无需训练即可将体积 token 削减至约 22.78% 而保持质量,从而降低长切片序列的推理成本。
从几何到功能:面向城市立面语义与功能解析的多任务LiDAR基准数据集
论文提出HFX3D,一个包含加拿大哈利法克斯26栋建筑约4.92亿个LiDAR点的大规模城市立面基准,覆盖四季、昼夜和多种天气,每面立面按语义、实例和逐实例功能属性三层标注。作者称这是首个将几何、语义与功能标签配对的立面数据集,并基于该基准评测了点、图、卷积和Transformer架构。
- HFX3D包含来自加拿大哈利法克斯26栋建筑的约4.92亿个LiDAR点。
- 数据覆盖四季、昼夜和多种天气条件。
- 每面立面按语义、实例和逐实例功能属性三层标注。
- 论文报告语义分割在严重类别不平衡下已具挑战,重复结构的实例分离和基于几何的功能推理明显更难。
该基准把评测目标从几何与语义分割推进到功能推理,为构建功能感知的城市3D理解模型提供了可量化的测试基础。