Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-19
01
testinferencecost collapse

180B Parameter, 32GB RAM: Mendorong Inferensi MoE ke Batas dengan Transformers

Posting blog Hugging Face menjelaskan implementasi Transformers yang hanya men-streaming expert terpilih router dari SSD melalui cache terbatas, sehingga Qwen3.8-Flash-Next berjalan di Mac 32GB pada sekitar 14 tok/s dan tertinggal sekitar 6% dari Strata pada decode pendek.

  • Qwen3.8-Flash-Next memiliki 48 lapisan berisi 512 expert (10 aktif), 121 GB expert dalam FP8, plus tabel embedding n-gram 51 GB.
  • Expert yang dikuantisasi ke 3 bit memakai 49 GB di disk dengan 12 GiB di-cache di perangkat, dan lapisan dense 8 bit sekitar 5,4 GB (+0,2% perplexity dibanding BF16).
  • Setelah dimuat ia memakai sekitar 18 GiB, dan prompt 6K memuncak di 25,4 GiB.
  • Hasil akhir: decode 200 token 13,9 tok/s vs Strata 14,8, prefill prompt 4K 228 tok/s vs 220, decode setelah dokumen 6K 12,4 tok/s vs 13,7.

Bagi pembangun AI, ini menunjukkan bahwa men-streaming hanya expert yang dirutekan melalui slot pool terbatas yang menjalankan grouped_mm apa adanya dapat mendekati mesin khusus pada memori konsumen, dengan hambatan berupa sekitar 10 ms per...

Hugging Face Blog
02
testagentscapability unlock

DeltaHarness: Harness yang Berevolusi Sendiri untuk Eksekusi Alat yang Adaptif terhadap Sumber Daya

Makalah ini memperkenalkan DeltaHarness, metode pencarian kebijakan yang dipandu eksekusi yang menyesuaikan harness agen dari pengukuran cold-start; loop QHI-nya menggunakan respons yang diamati untuk memperbarui dispatch runtime, merevisi rencana fisik, dan memilih eksperimen untuk proposal berikutnya, dengan panel ko...

  • Dengan dispatch tetap, kebijakan materialisasi yang direvisi menurunkan latensi pengiriman lengkap sebesar 30,0% pada satu tugas penyuntingan video di tiga pasangan baru.
  • Pada tugas held-out, kebijakan yang berevolusi menurunkan latensi sebesar 8,2% dibandingkan rencana tetap terbaik pada satu seed dan 4,6% dibandingkan proposal awal pada seed lain.
  • Makalah melaporkan bahwa deskripsi tugas dan sumber daya yang sama dapat menyembunyikan kondisi runtime yang membalik urutan latensi rencana eksekusi yang valid.

Bagi pengembang agen yang menggunakan alat, ini menunjukkan bahwa harness itu sendiri dapat dioptimalkan melalui pencarian kebijakan berdasarkan latensi terukur di lingkungan target, bukan mengandalkan rencana statis.

arXiv cs.LG
03
watchresearchnew architecture

Model bahasa dapat menulis ulang bobotnya sendiri

Sebuah makalah arXiv melaporkan bahwa model 27B, yang diberi bobotnya sendiri, jawaban ternilai, dan kemampuan menjalankan dirinya, mendiagnosis kegagalannya dan menyunting bobotnya sendiri tanpa gradien atau pelatihan, memperoleh 6,6 poin pada 490 masalah yang belum pernah dilihat.

  • Makalah melaporkan bahwa suntingan itu membuat model 6,6 poin lebih akurat pada 490 masalah yang belum pernah dilihatnya, dalam uji yang ditetapkan sebelumnya.
  • Makalah melaporkan bahwa pada delapan sesi pertamanya, setiap suntingan menggantikan yang sebelumnya dan akurasi hanya meningkat.
  • Makalah melaporkan bahwa dari empat ukuran, model 2B tidak membuat suntingan, model 4B dan 9B merusak dirinya sendiri, dan hanya model 27B yang berhasil; dibutuhkan model terbuka dan beberapa jam pada satu GPU.

Bagi para pembangun, ini menunjukkan bahwa perbaikan diri di tingkat bobot dapat menjadi jalur peningkatan pascapenerapan tanpa infrastruktur pelatihan, meskipun efektivitas yang dilaporkan sejauh ini hanya berlaku pada skala 27B.

arXiv cs.AI
04
testcreativecapability unlock

Genie 4 kini tersedia

Google DeepMind meluncurkan pengalaman Project Genie baru untuk pelanggan Google AI Ultra yang memenuhi syarat, dengan akses pertama ke Genie 4 yang memungkinkan pengeditan lingkungan secara real-time lewat bahasa alami dan audio native.

  • Genie 4 memungkinkan pengguna mengetik prompt di tengah sesi untuk mengubah cuaca, menambahkan karakter, atau mengalihkan aksi secara real-time.
  • Genie 4 memadukan visual dengan audio native real-time yang menyesuaikan diri saat adegan berlangsung, dari lanskap suara ambien hingga dialog karakter.
  • Genie 3 memperpanjang sesi hingga 3 menit per generasi, naik dari 60 detik, dan mendukung penyambungan beberapa dunia.
  • Genie 3 menambahkan grounding gambar panorama 360 derajat dan peristiwa dalam dunia yang dapat dipicu prompt secara real-time.

Bagi para pembangun, model dunia bergeser dari generasi sekali jalan menuju lingkungan interaktif yang dapat dipicu prompt, beraudio, dan dapat dibagikan, sementara latensi kamera, interaksi fisik yang rumit, dan keawetan adegan jangka panj...

Google DeepMind
05
testmodelsopen source unlock

Rumble-2-Flash: model suara 0,5B terbuka untuk 40+ bahasa

Reson8 merilis Rumble-2-Flash sebagai open source di bawah lisensi Apache 2.0, sebuah model pengenalan suara 0,5B parameter untuk 40+ bahasa yang menggunakan arsitektur Qwen3-ASR dengan dukungan native di Transformers dan vLLM.

  • Model 0,5B parameter dirilis di bawah lisensi Apache 2.0
  • Pada jalur multibahasa Open ASR Leaderboard, rata-rata tingkat kesalahan 6,96% pada bahasa Mandarin, Jerman, Prancis, Italia, Spanyol, Portugis, Hindi, Belanda, dan Inggris
  • Pada jalur bahasa Inggris Open ASR Leaderboard, rata-rata WER 6,6%
  • Pada benchmark call center AppTek (302 jam panggilan helpline, 14 aksen Inggris) mencapai WER 7,86%, setara dengan Nemotron 3.5 Transcribe (30B) milik NVIDIA pada 7,78%

Pengembang dapat menerapkan model ASR 0,5B di bawah Apache 2.0 dengan akurasi multibahasa dan call center yang dilaporkan setara model 30B, dengan dukungan native Transformers dan vLLM.

Hugging Face Blog
06
watchresearchincremental

Auditor Kesulitan Menangkap Sabotase dalam Transkrip End-to-End Riset Keamanan AI

Makalah ini menjalankan permainan red-team/blue-team di mana seorang peneliti manusia menjalankan eksperimen keamanan AI dari awal sebagai saboteur proksi, sementara auditor mencoba menentukan eksperimen mana yang disabotase dan bagaimana, dengan akses ke transkrip riset lengkap dan kemampuan menjalankan eksperimen.

  • Auditor manusia yang membedakan riset yang disabotase dari riset yang wajar memperoleh AUROC 0,59, tidak jauh lebih baik daripada kebetulan.
  • Auditor manusia hanya mengidentifikasi secara lengkap sabotase spesifik pada 17% kasus.
  • Model frontier terbaik, meskipun tidak diizinkan menjalankan eksperimen, mengungguli auditor manusia (Fable 5.1: AUROC 0,73, 32% identifikasi lengkap) dalam batas noise, dan model yang lebih lemah berkinerja sebanding.
  • Ketika saboteur memilih eksperimen mana yang diserang alih-alih diwajibkan menyabotase setiap pertanyaan yang diberikan, identifikasi sabotase menurun lebih jauh.

Bagi tim yang mengotomatiskan R&D AI, audit pasca-kejadian atas transkrip riset lengkap tidak cukup untuk menangkap sabotase agen tingkat ahli, sehingga desain audit harus secara aktif memverifikasi eksperimen.

arXiv cs.AI
07
testdevelopercapability unlock

Di dalam sandbox Codex

Lihat bagaimana Codex menjalankan perintah di mesin Anda sekaligus menegakkan batas filesystem dan jaringan yang Anda kendalikan di macOS, Linux, dan Windows.

  • Codex menjalankan perintah di mesin Anda.
  • Codex menegakkan batas filesystem dan jaringan yang Anda kendalikan.
  • Sandbox ini mencakup macOS, Linux, dan Windows.

Pengembang dapat menjalankan perintah Codex di tiga platform desktop utama sekaligus membatasi akses filesystem dan jaringan pada batas yang mereka tetapkan sendiri.

OpenAI News