AI FRONTIER
Signals worth understanding before they become obvious.
排行榜攻击:基于偏好的模型评估易受操纵
论文发现,采用 Bradley-Terry 模型聚合匿名模型两两对比投票的 Arena 式排行榜,易受策略性投票、策略性提示和策略性提名三类操纵影响。
- 论文在公开排行榜数据上演示了策略性投票、策略性提示和策略性提名三种操纵策略。
- 论文报告称,每种攻击可将模型排名提升最多 15-20 位,组合使用可提升最多 45 位。
- 论文指出,这些问题适用于任何允许开放提示、投票或模型提交的、使用 Bradley-Terry 模型的偏好式评估。
构建或依赖 Arena 式排行榜的团队需要针对投票、提示和模型提交环节设计防操纵机制,否则排名可能被供应商策略性抬高。
基于预训练感知的鲁棒任务感知状态估计
论文提出 θ-置信最小信念集(MBS_θ),利用 VLM 输出层 token 分布等感知模型已有概率,构建累积概率达到用户指定信念质量阈值的最小状态子集,并给出 PRaVaSS 算法。
- 论文由 Guy Azran 与 Sarah Keren 提交,发表于 NeurIPS 2026。
- MBS_θ 定义为累积概率满足用户指定信念质量阈值的最小状态子集。
- PRaVaSS 算法在无约束情形下具有正确性保证与多项式复杂度。
- 作者以 VLM 作为状态估计器骨干,验证了理论性质、随问题规模的可扩展性及下游任务规划决策的改进。
对构建智能体的开发者而言,保留感知模型输出的概率分布而非单一最佳猜测,可在不维护完整符号状态分布的前提下提升决策鲁棒性。
Together Compiler:面向 AI 推理的持续编译
Together AI 提出 Together Compiler(TKCC),一个面向 AI 推理优化的持续智能体循环,通过分层持久引擎和并行配置成本模型来缓解测量吞吐与保真度之间的权衡。
- 论文报告 TKCC 在 Llama 1B 主力工作负载上比高度优化的手写 Megakernels 最高快 1.7 倍。
- 论文报告在 InferenceX 基准上,TKCC 在 Kimi K3、GLM 5.3、MiniMax M3.1 Flash、DeepSeek v4.1 Flash 等前沿模型上跨硬件平台比最佳开源引擎最高提升 2.6 倍 TPS。
- 论文报告在 batch size 1 下达到 1111 TPS(M3.1 Flash)和 1205 TPS(DeepSeek v4.1 Flash)。
- 论文称 TKCC 已在生产集群中服务数万亿 token。
对推理服务团队而言,TKCC 的价值在于把编译优化从离线内核调优转向持续在线循环,但需注意其性能数字来自论文自报而非独立验证。
当世界仍保留错误时,清理智能体历史反而有害
论文在 AgentCE-Bench 与 AppWorld 上冻结智能体的世界状态,分别编辑历史或世界,让接收模型继续任务,发现历史编辑的效果取决于它所描述的世界状态。
- AgentCE-Bench:在智能体提交错误值后保持世界不变,保留错误并添加真实说明可将恢复率从匹配中性说明下的 51% 提升至 66%。
- AgentCE-Bench:改为添加智能体自己的已完成动作,则恢复率从 50% 降至 44%,低于未编辑历史。
- AppWorld:数据库写入后,成功回执在效果缺失时将整任务成功率从 45% 降至 28%,在效果存在时从 38% 提升至 49%。
- 论文报告两个效应在两个接收模型上合并相差 27 个百分点,八个接收模型中有六个在 97.5% 水平为正、七个在 95% 水平为正。
构建智能体记忆压缩或交接机制时,必须让历史编辑与世界实际状态保持一致,否则看似干净的历史可能比不编辑更糟。
SynthCorp:为数据智能体创建基准测试的平台
该论文提出 SynthCorp,一个通过模拟业务事件随时间产生和修改企业数据来创建可定制数据资产与基准测试的平台,并生成了包含七个数据资产和 256 个任务的初始评测基准。
- SynthCorp 生成的数据资产包含关系数据库、文档存储和数据目录,并配有评测任务和可执行的金标准程序。
- 初始基准包含七个数据资产(最多 1K 张运营表)和跨五个领域的 256 个任务。
- 论文报告数据资产通过确定性流水线检查(如外键违规、未声明写入、重复违规和数据库执行失败),错误率接近零。
- 论文报告在四种数据上下文设置下评测三个模型,基准能够区分数据上下文和模型层级。
对于构建企业数据智能体的团队,SynthCorp 提供了可定制、可验证的基准生成路径,无需人工标注即可审计金标准程序。
姚期智杨植麟首次联手发论文:30道数学世界难题无一AI独立攻破
姚期智与杨植麟首次合作发表论文,报告称30道数学世界难题中没有一道被AI独立攻破。
- 论文由姚期智与杨植麟首次联手发表。
- 论文涉及30道数学世界难题。
- 报告称这30道难题无一被AI独立攻破。
对AI研究者而言,该结果提示当前模型在需要独立完成的数学难题上仍存在明显缺口。