AI FRONTIER
Signals worth understanding before they become obvious.
AlphaProof Code 发布:深度验证复杂软件的重大突破
Google DeepMind 研究人员用 AlphaProof Code 智能体框架,对 Signal 协议实际代码的关键安全属性进行形式化验证,智能体生成了超过六百万行 Lean 证明。
- AlphaProof Code 是一个多 LLM 智能体框架,由人类专家与 AI 共同确定待证明内容,智能体完成证明。
- 智能体生成了超过六百万行 Lean 代码,用于证明 Signal 加密协议实现的安全性。
- 人工复核范围仅占代码库的百分之一,其余由 Lean 自动检查。
- 验证过程耗时四周,而此类任务历史上需要专家团队数年时间。
对 AI 构建者而言,这表明多智能体加 Lean 自动检查可以把形式化验证从设计层推进到实际编译代码,并将人工审查集中在极小比例的关键部分。
Multimodal Knowledge Agent 基准发布
Google 发布 Multimodal Knowledge Agent 基准,用于衡量模型在特定任务上的表现。
- 该基准名为 Multimodal Knowledge Agent benchmark。
- 来源为 blog.google。
- 论文摘要称其提出或使用新的基准评测来衡量模型在特定任务上的表现。
AI 构建者可用该基准评估多模态知识智能体在特定任务上的表现。
OpenRouter 上线百度 ERNIE-Light-DT-1.0
ERNIE-Light-DT-1.0 基于开源 GLM 模型并融入百度搜索 Lightning 大模型的研究成果,采用百度自研的 Baidu Sparse Attention(BSA)稀疏注意力机制,通过反馈驱动的历史压缩降低 KV 缓存与计算成本。
- 上下文窗口为 1,024,000 tokens,最多支持 131,072 个补全 tokens。
- 定价为输入 $1.13/百万 tokens、输出 $3.94/百万 tokens,缓存读取 $0.113/百万 tokens。
- 由 Baidu Qianfan 单一提供商托管,吞吐量 83 tok/s,延迟 1.05 s,3 天可用性 100.00%。
- 支持通过 tools 和 tool_choice 进行函数调用,并通过 response_format 中的 JSON schema 支持结构化输出。
对需要超长上下文的构建者而言,BSA 稀疏注意力与反馈驱动历史压缩把 1M 级上下文的 KV 缓存成本压低,值得在长文档与长会话场景中实测其性能保持情况。
OpenRouter 新模型:Thinking Machines Inkling 2 Small(免费)
Thinking Machines Lab 推出 Inkling 2 Small,这是一个多模态混合专家推理模型,总参数 594B、激活参数 17B,是第二代 Inkling 的首个模型。它通过强化学习在多种 agent harness 的长程编码任务上训练,支持文本与图像输入、工具调用和可变推理强度,上下文窗口为 1M token。
- 总参数 594B,激活参数 17B。
- 上下文窗口 1,048,576 token,最多支持 131,072 个补全 token。
- 接受文本和图像输入,输出文本,不支持音频。
- 免费端点仅限配合 agentic harness 使用,提示与输出会被记录并用于改进 Thinking Machines Lab 的模型。
对构建者而言,这是一个可零成本试用的 1M 上下文 agentic 编码模型,但免费端点的数据记录条款意味着不应向其发送机密或个人信息。
RL-ATTACK:基于强化学习的通用黑盒语言模型对抗攻击
该论文提出一个可训练的黑盒强化学习框架,从目标模型学习生成定制化对抗变换,而非依赖外部知识猜测变换。作者报告其在自然语言推理和生成式问答任务上取得更低攻击后准确率、更高查询效率和更好语义保持。
- 在自然语言推理任务上,论文报告可在20次查询内将攻击后准确率降至2%。
- 针对生成式语言模型,训练后的攻击器持续取得比未训练攻击器更低的攻击后准确率。
- 与一个强优化基线相比,论文报告在6个设置中赢得4个。
- 论文测试了多种奖励设计与训练设置,发现没有一种设计或设置始终占优。
对AI构建者而言,这表明黑盒攻击器可通过强化学习从目标模型自身信号中训练,从而以更少查询暴露漏洞,用于安全评估。
Obsidian Security 推出运行时策略引擎,用于管控 AI 代理操作
Obsidian Security 发布了一个运行时策略引擎,用于管控 AI 代理的操作。该消息由 Unite.AI 报道。
- Obsidian Security 推出运行时策略引擎,用于管控 AI 代理操作。
- 该消息由 Unite.AI 报道。
对于构建 AI 代理的开发者而言,运行时策略执行意味着代理操作可以在执行时受到约束,而不仅依赖部署前的静态配置。