AI FRONTIER
Signals worth understanding before they become obvious.
OpenRouter に Tencent Hy4 が登場：1M コンテキストと初の視覚理解
Tencent Hy4 の正式版がリリースされ、Hy4 Preview に対する包括的かつ大幅な改善、特にエージェント能力と長期的な実務タスクでの性能向上が報告され、初めて視覚理解も導入された。
- コンテキストウィンドウは 1,048,576 トークンで、最大 65,536 の補完トークンをサポートする。
- 価格は入力 $0.417/100万トークン、出力 $1.251/100万トークン、Cache Read は $0.021/100万トークンで、いずれも 50% 割引と表示されている。
- テキストと画像を入力として受け取りテキストを出力し、tools と tool_choice による関数呼び出し、および response_format の JSON schema による構造化出力をサポートする。
- リリース日は 2026 年 11 月 4 日で、単一プロバイダーの Tencent Cloud がホストし、OpenRouter がリクエストを直接転送する。
1M コンテキスト、ツール呼び出し、初の画像入力の組み合わせは、画像を読み取りながら長い多段タスクを実行する本番エージェントに適する。
moonshotai/Kimi-K3.1-Pro：2.8Tパラメータのオープン多模态エージェントモデル
Kimi K3.1 Pro はオープンウェイトのネイティブ多模态エージェントモデルで、Kimi K3 から大規模な統合強化学習により事後学習され、100万トークンのコンテキストウィンドウを備える。
- 総パラメータ 2.8T、活性パラメータ 104B、93 層、MoE アーキテクチャでトークンあたり 16 エキスパートを選択。
- コンテキスト長は 1048576、ビジョンエンコーダは MoonViT-V2 で 401M パラメータ。
- 量子化は MXFP4 重み / MXFP8 活性で、量子化認識トレーニングを採用。
- モデルカードは Terminal-Bench 4.0 で 65.7、SWE Marathon v1.1 で 51.7、HLE-Full w/ tools で 70.0 を報告。
構築者にとって、100万トークンのコンテキストとネイティブ多模态をオープンウェイトで提供し、vLLM・SGLang・TokenSpeed で展開できるため、長文脈エージェントや文書解析に適する。
Dharma Field Extractor：あらゆる文書を入力し、構造化フィールドをJSONで出力
Dharma-AIは、あらゆる文書タイプから指定したフィールドを抽出し構造化JSONを返す20億パラメータモデル「Dharma Field Extractor」を公開した。オープン抽出とスキーマ指定抽出の2モードに対応する。
- ベースモデルはDharmaOCR-LITE v1.1（20億パラメータ）で、そのチェックポイント上に43,384件の訓練例を用いてLoRAアダプタを訓練した。
- ベンチマークは546文書・3つのリクエストシナリオ・計1,638ケースを対象とし、フィールド単位F1に一致値のLevenshtein類似度と有効JSON出力率を乗じたスコアで評価する。
- モデルは0.834を記録し、テストしたすべてのフロンティア構成（Claude Opus 5の0.816からGPT-5.6 Lunaの0.741まで）を上回った。
- コストはフロンティアAPIより約6倍（GPT-5.6 Luna）から約147倍（GPT-5.6 Sol）低く、自ホスト時は単一L40SのGPU時間あたり2.24ドルで算出している。
フィールド単位の文書抽出では、自社インフラ上で自ホストする20億パラメータの専用モデルが、同一ベンチマークでフロンティアAPIをより低コストで上回り得る。
Circuit Oracle：自然言語クエリによる帰属グラフ分析の自動化
Circuit Oracle は、マルチエージェントハーネスとタスク固有のスキルを備えた既製の LLM で、ツール呼び出しを通じて帰属グラフを読み取り、自然言語の質問に答える。論文は3つの安全性関連プロキシタスクで評価し、結果は混在している。
- スプリアス特徴検出では、Circuit Oracle は 78.2 ± 2.4% の精度に達し、単層特徴ランキングベースラインを上回った。
- 秘密誘出では、Activation Oracles のような訓練済み自己説明器が依然としてより強いベースラインである。
- 50 プロンプトでの拒否抑制では、単一の介入は diff-in-means ベースラインをわずかに下回り、5回の試行の最良を許した場合にのみそれを上回る。
- 結果は5回の実行およびエージェントのモデル選択を通じて安定している。
帰属グラフ分析は自然言語エージェントで部分的に自動化できるが、報告された結果は秘密誘出と拒否抑制で専用ベースラインに劣るため、構築者は代替ではなく補助ツールとして扱うべきである。
MEMENTO：長文脈処理エージェントのための文脈管理を学習
本論文は、Qwen3-8B を基盤とする長文脈エージェント MEMENTO を提案する。事後に生成したノートを付与した合成軌跡で微調整してノート作成をブートストラップし、回答正確性・ノート品質ヒューリスティック・信頼度較正を組み合わせた報酬で強化学習を行うことで、圧縮による文脈管理を学習する。
- 論文は、最大 2.5M トークンの書籍を用いた 4 ベンチマークの書籍レベル質問応答で、MEMENTO が Qwen3-8B の精度を 36.9% から 67.8% に引き上げ、文脈に保持するトークンは常に 20K 以下だったと報告している。
- 論文は、同一ハーネスにおいて MEMENTO が GPT-5.5 エージェント（13.1%）と全文脈（56.7%）を上回り、コストは 1/50 未満だったと報告している。
- 論文は、MEMENTO が約 100 倍大きい GLM-5.3 エージェント（69.3%）にほぼ匹敵しコストは 1/9、GLM-5.3 の全文脈には 6.4 ポイント差でコストは 1/26 だったと報告している。
- 論文は、GPT-5.5 や GLM-5.3 を含む既製のエージェントモデルはしばしば効果のないノートを書き、強化学習だけでは有用なノート作成行動をほとんど発見できないと述べている。
長文脈エージェントを構築する開発者にとって、固定 20K トークン窓内で明示的な圧縮方策を訓練することが、大規模モデルや全文脈方式よりはるかに低いコストで書籍レベルの質問応答精度に近づける可能性を示す。
GAVAGAI：平衡最適輸送による乳児規模の視覚言語モデルの指示対象アラインメント
本論文は次トークンキャプション目的に指示対象変数を導入し、各シーンを聞いた内容語と見た領域の小さな割り当て問題として、NOTHING 列と容量制約の下でエントロピー最適輸送により解く。SAYCam 乳児動画コーパスでは、このアラインメント損失を加えることで単語から画像への精度が 32.4% から 48.7% に、定位 IoU が 0.18 から 0.38 に向上した。
- アラインメント段階は約8回の Sinkhorn 反復を要し、視覚エンコーダに比べて小さい。
- 制御シミュレーションでは、すべての単語をいずれかの領域に強制する行単位 softmax 版は現実的な非指示率下で単語から画像への精度が 0.000 に崩壊し、キャプション単独の 0.058 を下回った。2つの制約はその状況で 0.075、クリーン入力で 0.700 に達した。
- 1パラメータ版は3つの曖昧性条件下で成人の横断状況学習精度を再現し、RMSE は 0.024 である。
- SAYCam 乳児動画コーパスで、次トークンキャプションモデルにアラインメント損失を加えると、単語から画像への精度が 32.4% から 48.7% に、定位 IoU が 0.18 から 0.38 に上昇した。
非指示率が高い状況で訓練する視覚言語モデルにとって、明示的な単語と領域の割り当て変数はキャプション目的単独より語の接地圧力を与えるが、論文は同じ児童データで訓練した対照モデルを上回るとは主張していない。
人間らしいが依然として真実か？AIテキスト人間化ツールの事実と検出の監査
本論文は、ルールベース検査器でAI人間化ツールが数値・日付・人名・組織名・引用箇所を保持するかを監査し、汎用意思決定モデルJevが人間原文と人間化改写を区別できるか検証した。
- 2026年10月サイクルでは、11の商用ツールすべてが、検証可能な単位を含む文書の35-65%で少なくとも1つを変更または削除した。
- 数値と名称のみを数えると、11ツール中10が20%以上の文書で少なくとも1つを変更した。
- オープンな12B人間化ツールは、米国連邦機関の事実密度の高いテキストで数値と名称の少なくとも97%を保持したが、引用箇所の67-78%を言い換えた。
- Jevは人間原文と人間化改写をAUROC 0.864（0.827-0.902）で区別し、Binoculars、Fast-DetectGPT、RADARより0.18-0.22高かったが、閾値0.5で人間原文の24%をAIと判定した。
人間化や検出のパイプラインを構築する際は、検出回避と事実保持が明確に関連しないため、検証可能な事実単位の保持率を別途測定すべきである。
Transformers が Model Integration Contracts（MIC）標準を提案
Hugging Face は、実チェックポイントを小型 fixture に縮小し、CPU 上で使用パスを実行して人手レビュー済みベースラインと比較する Model Integration Contract（MIC）を提案した。
- UMT5 fixture の重みは 66 MB で、元のチェックポイントは 1,227 MB。
- UMT5 の回帰は 2026 年 7 月 30 日の導入から 9 月 28 日の修正まで続き、ログ確率がベースラインと 1.22、訓練損失が約 0.20 異なった。
- Llama 4 Scout は 108.6 億パラメータから 4,470 万パラメータへ縮小され、ビジョンスタックは 34 層から 2 層、言語スタックは 48 層から 4 層になった。
- 重み初期化研究では、ランダム Whisper fixture が 24 件の注入故障のうち 18 件を検出し、過学習 fixture は 24 件すべてを検出した。
ビルダーは MIC を低コストな CPU 上の PR チェックとして使えるが、2026 年 11 月 1 日時点で MIC ジョブは失敗を報告するのみで PR をブロックしない点に注意が必要。