AI FRONTIER
Signals worth understanding before they become obvious.
MoEZip：スパースMixture-of-Experts LLM向けルーティング考慮型KVキャッシュ圧縮
MoEZipは、ルーティング分布のFisher情報行列に基づく感度指標とアテンション重みを組み合わせたルーティング考慮型のKVキャッシュ圧縮を提案し、MoEモデルの長文脈推論でKV退避がエキスパート選択を変える問題に対処する。
- 論文は、KV保持率10%においてMoEZipがLongBenchとRULERでSoTAベースラインを平均+24点および+20点上回り、それぞれ2.3倍と4.9倍のスコアに相当すると報告している。
- MoEZipはルーティング分布のFisher情報行列に基づく新しい指標で、エキスパートルーティングの摂動に対する感度を推定する。
- 本手法はこの指標をアテンション重みと組み合わせてルーティング考慮型のコンテキストスコアリングを行い、稠密およびスパースMoEアーキテクチャ向けの退避手法を組み合わせる。
- 論文はNeurIPS 2026に採択され、arXiv番号は2610.30206、2026年10月21日提出。
スパースMoEの長文脈推論を運用するチームにとって、MoEZipはKV退避時にエキスパートルーティングの安定性を明示的に考慮する必要があることを示す。
データベース評価をRL報酬に変換：ThinkingBoxによるエージェントの事後学習
MicrosoftとHugging FaceはThinkingBox-Trainingを公開し、最終データベース状態の実行可能チェックをGRPO報酬として使用し、Qwen3.8-27Bを50ステップ微調整した結果、平均成功率が51.70%から60.78%に上昇した。
- Qwen3.8-27Bのpass@1は5,242回（51.70%）から6,163回（60.78%）へ上昇し、9.08ポイント改善した。
- 20/20で全通過したタスク数は38件（7.50%）から107件（21.10%）へ増加し、69件増えた。
- pass@20（少なくとも1回成功したタスク）は453件（89.35%）から446件（87.97%）へ減少し、7件減った。
- 訓練は187タスク、token-mean GRPO、50ステップ、24台のH100、学習率1e-6、AdamWの重み減衰ゼロで実施された。
エージェントを構築するチームにとって、実行可能な最終状態チェックは評価器と報酬信号の両方になり得るが、再現性の向上がカバレッジの小幅な低下を伴う点に注意が必要である。
非定常アテンションのためのフローベーススペクトルカーネル学習
本論文はフローベーススペクトルカーネルアテンション（FSKA）を提案し、スペクトル密度学習を通じてカーネル化アテンションを定式化し、得られる二変量スペクトル密度を正規化フローでパラメータ化することで非定常アテンションカーネルを学習する。
- FSKA はスペクトル密度学習を通じてカーネル化アテンションを定式化し、得られる二変量スペクトル密度を正規化フローでパラメータ化する。
- この設計により query–key 射影を削除し、固定直交 value 射影を用いる簡素化されたアテンション設計が可能になり、よりパラメータ効率の高いアーキテクチャとなる。
- 論文は、ほとんどのベースラインと比較して射影関連の学習可能パラメータを約 40%–47% 削減し、有利な線形アテンションのメモリスケーリングを維持すると報告している。
- 分類、アブレーション、スケーラビリティ分析の制御実験で、FSKA は既存のアテンション機構と同等または改善された性能を達成すると報告され、コードも公開されている。
構築者にとって FSKA は、正規化フローで非定常カーネルを学習することで、線形アテンションのメモリスケーリングを保ちながら射影関連の学習可能パラメータを約 40%–47% 削減できることを示す。
基盤モデルを結核スクリーニングの最前線へ
Google ResearchはIDWeek 2026で、胸部X線アルゴリズムからCE認証を受けた臨床ツール、そして現地展開向けのオープン基盤モデルMedGemmaとMedSigLIPに至る結核スクリーニングの取り組みを紹介した。
- Google Researchは結核が年間約123万人の命を奪っているとしている。
- Nexus AIのデバイスは胸部X線画像を最短45秒で結核などの肺疾患についてスクリーニングする。
- このツールは6か国・約40の医療施設で運用され、90人以上の臨床医が2万5千枚以上の胸部X線画像を評価した。
- MedGemmaは4Bおよび27Bパラメータ構成のオープンウェイト多模态モデル群で、公開以降のダウンロード数は1000万回を超える。
ヘルスAIを構築する開発者にとって、オープンウェイトモデルとローカル実行は、国内の画像データで微調整したスクリーニングツールの主権的運用を可能にする。
Latent Space Jam：学習不要の粗いレイアウトによる動画生成ガイド
本論文は、事前学習済み動画拡散モデルを用い、プロンプト誘導のクロスアテンションで物体の時空間配置を制御し、その粗い視覚ガイドで同一モデルを条件付けしてレイアウト整合の高品質動画を生成する学習不要の2パス手法を提案する。
- 追加の学習、データ、アーキテクチャ変更を必要とせず、事前学習済み動画拡散モデルをそのまま利用する。
- 2パス構成で、第1パスがプロンプト誘導クロスアテンションによる粗い視覚ガイドを生成し、第2パスがそのガイドで同一モデルを条件付ける。
- 論文は、静的・動的・複数物体の各設定で、重なりと軌跡の精度および視覚品質において先行手法を一貫して上回ると報告している。
構築者にとっては、学習コストなしで既存の動画拡散モデルにレイアウトと動きの制御を後付けできる点が、制御可能な動画生成の導入障壁を下げる。
CiteAnchor：幻覚引用の検出と解決のためのソース認識型グラウンディング
本論文は、実世界の幻覚引用423件にソース復元可能性を注釈付けしたベンチマークCiteResolveを導入し、ソース種別ごとに検索とフィールド単位検証を適応させ、引用の妥当性と一意なソース復元可否を別々に判定するソース認識型グラウンディングフレームワークCiteAnchorを提案する。
- CiteResolveベンチマークは、ソース復元可能性が注釈された実世界の幻覚引用423件で構成される。
- 既存の検出ベンチマークで、CiteAnchorはGPT-5.6 Lunaを用いて0.841 F1、オープンウェイトのバックボーンを用いて0.784 F1を達成した。
- 論文は、同一バックボーンを用いたベースラインをそれぞれ7.9ポイントと36.8ポイント上回ると報告している。
- CiteResolveではエンドツーエンドのタスク成功率が74.7%と70.7%で、論文は対応するウェブ検索ベースラインを16.3ポイントと65.3ポイント上回ると報告している。
文献検証や検索拡張システムを構築する開発者にとって、引用の妥当性とソース復元可能性を分離して評価する枠組みとベンチマークが提供される点が重要である。
TauIndianBankBench：ツール利用対話エージェントの手順認識型・行動指向評価
本論文は、1,000 件のインド小売銀行タスクからなる行動指向ベンチマーク TauIndianBankBench を提示し、最終記録に加えて必須ステップの実行と要求されていない変更の有無を検査する。論文によれば、最終記録のみを検査した場合、必須ステップの省略や要求されていない変更があっても、各モデルのセッションの 6.5-12.0% が成功と判定された。
- ベンチマークは、エージェントが模擬顧客を支援する 1,000 件のインド小売銀行タスクで構成される。
- 評価は最終記録に加え、すべての必須ステップの実行と要求されていない変更がないことを検査する。
- 論文によれば、最終記録のみを検査した場合、必須ステップの省略や要求されていない変更があっても、各モデルのセッションの 6.5-12.0% が成功と判定された。
- 論文は 15 ページ、図 6 点、表 14 点で、コードとデータへのリンクを提供している。
銀行エージェントを構築するチームにとって、最終状態のみの採点は手順遵守を過大評価するため、必須ステップと未承認操作を評価に含める必要があることをこのベンチマークは示している。
Decisions API でより応答性の高いアプリを構築
OpenAI News が Decisions API を公開し、あらゆるアプリケーション向けに高速で焦点を絞った低コストの意思決定を提供すると位置づけている。
- 出典は OpenAI News、項目タイトルは「Build more responsive apps with the Decisions API」。
- 公式の一行説明は「Fast, focused, low-cost decisions for any application」。
- 分類は developer、変化の種類は cost_collapse とされている。
低コストで焦点を絞った意思決定を返せるなら、開発者は重いモデル呼び出しではなく対話経路に直接決定処理を組み込める。