Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-12
01
watchresearchcapability unlock

Lazare:重编程休眠神经元以对AI智能体植入后门

Microsoft研究人员发现名为Lazarus的后门技术,通过重编程LLM中少于10个休眠神经元,无需训练即可让智能体在隐藏触发条件出现时执行恶意命令,同时仍能通过标准评估。

  • 重编程少于10个休眠神经元即可对基于该LLM的智能体植入后门,且无需训练。
  • 触发条件可以很普通,例如时钟跨过午夜进入2027年,智能体便会在普通任务中发出下载并运行攻击者代码的命令。
  • 论文报告称,在约50个样本上拟合的线性分类器即可区分带触发与不带触发的输入。
  • 该攻击仅需推理算力,只要机器有足够RAM运行模型,就足以在权重空间植入后门。

构建者应将权重完整性视为代码完整性:没有与原始未修改权重的差异比对,任何扫描都无法证明模型安全,因此来源溯源与部署前校验成为必要环节。

Microsoft Research
02
testagentsopen source unlock

BotPsy:搭载亚十亿参数智能体语言模型的端侧个人助理

Tether AI Research 推出 BotPsy,这是一个基于 Qwen3.5-0.8B 构建的 0.8B 参数模型,专为函数调用和智能体工作流设计,适合端侧部署。

  • 在 BFCL v4 上从 23.4 提升至 44.0,ACEBench 从 30.1 提升至 58.7,τ-bench 从 23.2 提升至 51.5。
  • 在 BFCL v4、ACEBench、τ-bench、ToolSandbox 和 BrowseComp-Plus 上超过 Qwen3.5-2B-Think;仅在 Claw-Eval 上落后(46.5 对 48.9)。
  • IFEval 从 59.7 提升至 90.8,IFBench 从 22.0 提升至 55.9。
  • 将以 Apache 2.0 许可开放权重,提供 bf16、Q8、Q4 三种精度,格式为 safetensors 和 GGUF。

对于构建端侧智能体的开发者而言,BotPsy 表明一个 0.8B 模型在工具调用基准上可以超过 2.5 倍规模的模型,但知识类任务仍随参数规模扩展。

Hugging Face Blog
03
testmodelscapability unlock

OpenRouter 新模型:百度 ERNIE-5.5-Flash-Preview(免费)

百度在 OpenRouter 上线 ERNIE-5.5-Flash-Preview 免费端点,总参数 2800 亿、每 token 激活 140 亿,支持 100 万 token 上下文窗口。

  • 总参数 2800 亿,每 token 激活 140 亿参数。
  • 上下文窗口为 1,024,000 token,最多支持 1,024,000 个补全 token。
  • 页面称其新架构可实现每秒超过 200 token 的生成速度。
  • 由 Baidu Qianfan 单一提供商托管,定价为零,免费端点受速率限制。

免费、百万级上下文与稀疏激活组合,适合构建长文档和智能体工作流原型,但需考虑单提供商与速率限制。

OpenRouter Models
04
watchresearchcapability unlock

AlphaGenome 2:解读细胞如何读取DNA以更好理解疾病

Google DeepMind发布下一代DNA序列模型AlphaGenome 2,采用条件式架构,可针对特定细胞类型或状态预测DNA变异的影响,并支持无需重新训练即可适配新的单细胞数据。

  • AlphaGenome 2在TenK10K数据集上识别出的因果变异数量接近原版AlphaGenome的两倍(30%对16%),方向性基因效应为43%对23%。
  • 模型训练使用了68种组织、超过1.07亿个单细胞图谱数据。
  • 模型可预测基因表达、组蛋白修饰、染色质可及性以及DNA甲基化等读出结果。
  • AlphaGenome 2今日起通过AlphaGenome API面向非商业研究开放,商业研究处于私密预览阶段。

条件式单细胞建模让研究者能在疾病相关细胞类型中定位变异效应,而无需为每个新数据集重新训练模型。

Google DeepMind
05
testinferencecost collapse

HOPE:面向混合专家语言模型的高阶专家剪枝

HOPE 是一种二阶专家剪枝方法,通过在校准集上构建专家两两交互矩阵 F 并求解二次规划来选择剪枝集,而非像一阶方法那样独立地为每个专家打分。

  • Qwen3.5-122B 在 48 个 MoE 层中每层有 256 个专家,约 250 GB 参数内存中约 95% 由专家 MLP 占用,而每个 token 每层仅使用 8 个专家。
  • 在 50% 剪枝率下,HOPE 的平均排名为 1.58,优于次优方法 REAP 的 2.42。
  • 在 Qwen3.5-35B-A3B 上以 50% 剪枝率测试 SWE-Bench Pro,HOPE 得分为 42.3,未剪枝模型为 41.8,而 REAP 降至 36.2。
  • F 矩阵对角线几乎完美复现 REAP 的专家排名(Spearman ρ = 0.988),因此 HOPE 相对 REAP 的改进来自非对角交互项。

对于在内存受限下部署大型 MoE 的团队,HOPE 表明在激进剪枝率下建模专家两两协作关系可保留智能体编码能力,而独立专家打分会导致明显退化。

Hugging Face Blog
06
testdocumentsincremental

面向多向量嵌入模型的Token Pooling感知训练

Hugging Face 博文介绍了 Sentence Transformers 中的池化感知训练:在训练目标中同时加入原始文档嵌入与压缩后文档嵌入的检索损失,使编码器在向量被合并后仍能保留检索所需信息。

  • pool_factor=4 时,普通训练模型保留未池化 NanoBEIR nDCG@10 的 94.6%,文档向量减少 4 倍。
  • 池化感知训练在同一存储预算下将保留率提升至 97.8%。
  • 训练损失为 L = 1/2 L_unpooled + 1/2 L_pooled,两个目标更新同一编码器。
  • HierarchicalTokenPooling 使用 Ward 层次聚类,训练时用直通估计器把梯度从池化向量传回成员 token。

对于多向量检索系统,池化感知训练让开发者能在不增加向量存储的前提下,通过训练目标对齐来挽回压缩带来的检索质量损失。

Hugging Face Blog
07
watchresearchincremental

在预填充阶段训练、在解码阶段监控:用稀疏自编码器进行主题监控

论文提出 TopicScope 框架,在 SAE 特征上训练因果主题分类器,为生成响应中的每个 token 分配主题标签,标签可在响应中途改变。在 Gemma-3 1B 和 4B 上,用预填充隐藏状态特征训练的监控器能够泛化到解码阶段。

  • 在覆盖七个主题的合成多主题对话上训练了三种检测器架构。
  • 在 Gemma-3 1B 和 4B 上,用预填充隐藏状态提取的特征训练的监控器可泛化到解码阶段。
  • 分类器对扰动具有鲁棒性:插入离题内容、删除主题或重排段落时,macro-F1 最多下降 5 个点。
  • 消融实验显示,不使用 SAE 即达到基线性能的分类器体积要大数倍。

这表明紧凑的主题监控器可以低成本地在预填充阶段训练并部署到生成过程中,也展示了 SAE 在安全分类之外的用途。

arXiv cs.AI