AI FRONTIER
Signals worth understanding before they become obvious.
AlphaProof Code 発表:複雑なソフトウェアを深く検証する画期的成果
Google DeepMind の研究者は、エージェント型フレームワーク AlphaProof Code を用いて Signal プロトコルの実際のコードの主要なセキュリティ特性を形式検証し、エージェントが 600 万行を超える Lean 証明を生成した。
- AlphaProof Code は複数の LLM を組み合わせたエージェント型フレームワークで、人間の専門家と AI が証明対象を決め、AI エージェント群が証明を実行する。
- エージェントは Signal の暗号化プロトコル実装の安全性を証明するため、600 万行を超える Lean コードを生成した。
- 人間によるレビュー対象はコードベースの 1 パーセントのみで、残りは Lean が自動的に検査した。
- 検証プロセスはわずか 4 週間で完了し、歴史的には専門家チームで数年を要する作業だった。
AI 構築者にとって、マルチエージェントと Lean の自動検査を組み合わせることで、形式検証を設計段階から実際に動作するコンパイル済みコードへ広げ、人間のレビューを極小の重要部分に集中できることを示している。
Multimodal Knowledge Agent ベンチマークの公開
Google が Multimodal Knowledge Agent ベンチマークを公開し、特定タスクにおけるモデルの性能を測定する。
- ベンチマーク名は Multimodal Knowledge Agent benchmark。
- 出典は blog.google。
- 論文要旨は、特定タスクでのモデル性能を測る新しいベンチマーク評価を提案または使用すると述べている。
AI 開発者はこのベンチマークで多模态知識エージェントの特定タスク性能を評価できる。
OpenRouter に Baidu ERNIE-Light-DT-1.0 が登場
ERNIE-Light-DT-1.0 はオープンソースの GLM モデルをベースに、Baidu Search の Lightning 大規模モデルの研究成果を取り込み、Baidu 独自の疎な注意機構 Baidu Sparse Attention(BSA)を採用している。フィードバック駆動の履歴圧縮により KV キャッシュと計算コストを削減する。
- コンテキストウィンドウは 1,024,000 トークンで、最大 131,072 の補完トークンをサポートする。
- 価格は入力 $1.13/出力 $3.94(100万トークンあたり)、キャッシュ読み取りは $0.113(100万トークンあたり)。
- Baidu Qianfan の単一プロバイダーがホストし、スループット 83 tok/s、レイテンシ 1.05 s、3日間の稼働率は 100.00%。
- tools と tool_choice による関数呼び出し、および response_format の JSON schema による構造化出力をサポートする。
100万トークン級の長文コンテキストを扱う開発者にとって、BSA と履歴圧縮による KV キャッシュ削減が実運用コストをどこまで下げるかが検証ポイントになる。
OpenRouter 新モデル:Thinking Machines Inkling 2 Small(無料)
Thinking Machines Lab の Inkling 2 Small は、総パラメータ 594B のうち 17B を活性化するマルチモーダルな Mixture-of-Experts 推論モデルで、第2世代 Inkling の最初のモデルです。多数の agent harness にわたる長期的コーディングタスクで強化学習により訓練され、テキストと画像入力、ツール呼び出し、可変推論強度に対応し、コンテキストウィンドウは 1M トークンです。
- 総パラメータ 594B、活性パラメータ 17B。
- コンテキストウィンドウは 1,048,576 トークンで、最大 131,072 の補完トークンをサポート。
- テキストと画像を入力として受け取り、テキストを出力する。音声には非対応。
- 無料エンドポイントは agentic harness での利用に限定され、プロンプトと出力は記録され Thinking Machines Lab のモデル改善に使用される。
ビルダーにとっては 1M コンテキストの agentic コーディングモデルを無料で試せる一方、無料エンドポイントのログ記録条項により機密情報や個人データの送信は避けるべきです。
RL-ATTACK:強化学習による言語モデルへの汎用ブラックボックス敵対的攻撃
本論文は、外部知識で変換を推測するのではなく、対象モデルから学習して専用の敵対的変換を生成する訓練可能なブラックボックス強化学習フレームワークを提案する。自然言語推論と生成QAタスクで、攻撃後の精度低下、クエリ効率、意味保持の改善を報告している。
- 自然言語推論では、20クエリ以内に攻撃後の精度を2%まで低下させると報告されている。
- 生成言語モデルに対して、訓練済み攻撃器は未訓練攻撃器より一貫して低い攻撃後精度を達成した。
- 強力な最適化ベースラインと比較して、6設定中4設定で勝利したと報告されている。
- 複数の報酬設計と訓練設定を試したが、一貫して優位な設計や設定は見つからなかった。
AI構築者にとって、対象モデル自体の信号からブラックボックス攻撃器を訓練できることは、より少ないクエリで脆弱性を評価する手段になる。
Obsidian Security、AIエージェントの操作を制御するランタイムポリシーエンジンを発表
Obsidian SecurityがAIエージェントの操作を制御するランタイムポリシーエンジンを発表した。この発表はUnite.AIが報じた。
- Obsidian SecurityがAIエージェントの操作を制御するランタイムポリシーエンジンを発表した。
- この発表はUnite.AIが報じた。
AIエージェントを構築する開発者にとって、ランタイムでのポリシー適用は、展開前の静的な設定だけでなく実行時にエージェントの操作を制約できることを意味する。