AI FRONTIER
Signals worth understanding before they become obvious.
Model baru OpenRouter: Particle-1 dari Particle AI
Particle-1 adalah model coding agentik hemat token dari Particle AI, dilatih lanjut di atas DeepSeek V4.1 Flash, ditujukan untuk alur kerja terminal, perubahan basis kode, dan tugas data engineering, dengan token penalaran dan pemanggilan alat yang jauh lebih sedikit serta akurasi mendekati model dasarnya.
- Harga $0,25 per 1 juta token input dan $1,00 per 1 juta token output, dengan pembacaan cache $0,03 per 1 juta.
- Jendela konteks 1.048.576 token dan mendukung hingga 131.072 token penyelesaian.
- Menerima tools dan tool_choice untuk pemanggilan fungsi serta mendukung output terstruktur melalui skema JSON di response_format.
- Menerima teks dan gambar sebagai input dan mengembalikan teks; tanggal rilis 28 Oktober 2026.
Bagi tim yang membangun agen coding, Particle-1 menawarkan harga per token yang rendah dan konteks 1M untuk diuji, tetapi klaim akurasi mendekati model dasar perlu diverifikasi secara independen.
Polymathic AI dan Peneliti Princeton Merilis FlashMap, Drafter Flow Map yang Mempercepat Dekode LLM 6,14x
Polymathic AI dan peneliti Princeton merilis FlashMap, sebuah drafter flow map untuk dekode model bahasa besar, dan abstrak makalah melaporkan percepatan dekode 6,14x.
- Abstrak makalah melaporkan bahwa FlashMap mencapai dekode LLM 6,14x lebih cepat.
- FlashMap dijelaskan sebagai drafter flow map.
- Karya ini berasal dari Polymathic AI dan peneliti Princeton.
Bagi tim yang membangun stack inferensi, percepatan dekode berbasis drafter layak diuji pada model sendiri untuk melihat apakah 6,14x yang dilaporkan dapat direproduksi pada beban kerja mereka.
NVIDIA Nemotron 3.5 Transcribe dan Granary v2: Transkripsi Multibahasa yang Dapat Diprompt dan Diadaptasi
NVIDIA merilis Nemotron 3.5 Transcribe, model berbobot terbuka yang menyatukan transkripsi, atribusi pembicara, terjemahan, dan tanya jawab audio dalam satu checkpoint, bersama pipeline data Granary v2 dan resep fine-tuning NeMo Speech.
- Model ini mentranskripsikan 40 bahasa, menerjemahkan 31 bahasa ke atau dari bahasa Inggris, dan mengatribusikan pembicara dalam 13 bahasa, untuk rekaman hingga satu jam dan hingga delapan pembicara.
- Model ini menempati peringkat pertama di antara model berbobot terbuka pada Hugging Face Open ASR Leaderboard untuk bahasa Inggris dengan WER rata-rata 5,33%.
- Di Artificial Analysis, model ini berbagi peringkat pertama di antara model berbobot terbuka dengan AA-WER 2,8% dan sekitar 4B parameter aktif, dibandingkan 24B pada model yang setara.
- Manifes publik Granary v2 mencakup 463.062 jam di 48 bahasa dan 16 korpus sumber, naik dari 25 bahasa pada Granary v1.
Pengembang dapat mengarahkan format keluaran lewat prompt bahasa alami, lalu mengadaptasi kosakata domain melalui Granary v2 dan resep NeMo Speech, memadukan cakupan multibahasa luas dengan akurasi khusus pada model berbobot terbuka.
Paparan cache KV antar-permintaan pada model GLM-5.3 Workers AI, dan remediasi kami dengan SGLang
Blog Cloudflare melaporkan paparan cache KV antar-permintaan pada model GLM-5.3 Workers AI dan menjelaskan remediasi menggunakan SGLang.
- Sumbernya adalah Blog Cloudflare.
- Masalahnya adalah paparan cache KV antar-permintaan pada model GLM-5.3 Workers AI.
- Remediasi menggunakan SGLang.
Pengembang yang menjalankan GLM-5.3 di Workers AI harus mengaudit isolasi cache KV dan mengevaluasi remediasi dengan SGLang.
OmniBrain-0: Model Agentik Terpadu untuk Kecerdasan Terwujud
Tim Xiaomi Embodied Intelligence memperkenalkan OmniBrain-0, agen terwujud terpadu yang ringan dan mengoordinasikan manipulasi serta navigasi melalui model keputusan tingkat tinggi bersama, dengan mengintegrasikan pemahaman tugas, perencanaan, pelacakan kemajuan, dan pemulihan berbasis umpan balik. Kerangka pelatihan p...
- Makalah melaporkan evaluasi OmniBrain-0 pada LIBERO-Pro, LIBERO-Plus, RoboCasa365, RoboTwin 2.0, dan R2R-CE Val-Unseen, serta beberapa tugas manipulasi dunia nyata.
- Makalah menyatakan OmniBrain-0 memiliki overhead inferensi dan eksekusi yang jauh lebih rendah daripada guru closed-source-nya.
- Kerangka pelatihan menggabungkan prapelatihan terwujud, distilasi agen khusus domain, dan distilasi on-policy multi-guru (MOPD).
- Rubric-Guided Recursive Self-Improvement (RSI) menggunakan Meta-Agent untuk mengubah bukti eksekusi menjadi rubrik yang disempurnakan, pengingat tingkat langkah, dan lintasan terverifikasi.
Bagi tim yang membangun agen terwujud, karya ini menunjukkan bahwa mendistilasi pengalaman interaksi beberapa guru ke dalam satu model keputusan ringkas dapat menekan overhead inferensi sekaligus mempertahankan performa lintas domain.
MiniMax-M3.1-Flash dirilis: MoE multimodal native 428B parameter dengan konteks 1M token
MiniMax merilis MiniMax-M3.1-Flash, model mixture-of-experts multimodal native berbasis M3 dengan sekitar 428B parameter total dan 23B diaktifkan per token, menerima input teks, gambar, dan video serta menghasilkan teks dengan jendela konteks hingga 1M token. Dibandingkan M3, model ini menerapkan sparse attention di se...
- Kartu model mencantumkan sekitar 428B parameter total, 23B diaktifkan per token, dan MiniMax Sparse Attention (MSA) di seluruh model.
- Kartu model melaporkan 76,2 pada BankerToolBench, 73,7% pada DeepSWE v1.1, 61,7 pada OSWorld V2, 29,6 pada Agents' Last Exam, dan 82,2 pada CyberGym.
- Tiga perubahan utama: tiga lapisan full-attention pertama diganti dengan sparse attention, pakar MoE yang dirutekan dan jalur attention dikuantisasi selama pelatihan, dan decoding spekulatif DSpark disertai draft head.
- Lisensinya minimax-community, dan SGLang, vLLM, atau TokenSpeed direkomendasikan untuk serving, sementara integrasi seperti Transformers masih dalam proses.
Bagi para pembangun, konteks 1M token bersama sparse attention dan pelatihan sadar kuantisasi dapat menurunkan memori dan biaya inferensi untuk beban kerja agen berkonteks panjang, tetapi 428B parameter total tetap memerlukan deployment mul...
LOTUS: Deteksi Halusinasi LLM melalui Dekomposisi Multilinear Rank Rendah
Makalah ini mengusulkan LOTUS (Low-rank Order-statistic TUcker-based Subspace learning), kerangka dekomposisi multilinear rank rendah yang mengekstrak representasi ringkas dari hidden state LLM sekaligus mengurangi ketergantungan pada data berlabel, lalu melatih pengklasifikasi halusinasi yang ringan.
- Representasi token dengan panjang bervariasi diringkas dengan deskriptor statistik komplementer yang menangkap aktivasi puncak, distribusi aktivasi, dan perubahan antar-lapisan.
- Dekomposisi multilinear rank rendah mengekstrak representasi ringkas dari struktur hidden state LLM untuk melatih pengklasifikasi halusinasi yang ringan.
- Makalah melaporkan deteksi halusinasi yang lebih baik daripada baseline state-of-the-art terbaru pada beberapa LLM dan benchmark tanya jawab.
- Makalah ini terdiri dari 26 halaman dan 3 gambar, serta menyediakan tautan kode.
Bagi pembangun, pendekatan ini menyarankan pengambilan sinyal dari struktur hidden state lintas lapisan, mode fitur, dan token alih-alih aktivasi terpilih atau kompresi pooling, sehingga detektor ringan dapat dilatih dengan lebih sedikit da...