AI FRONTIER
Signals worth understanding before they become obvious.
Perché le CNN di visione sotto i 4 bit collassano e dove si ferma il recupero a precisione mista
Il paper analizza sistematicamente il collasso da quantizzazione in CNN di visione standard, inclusi i backbone ResNet ed EfficientNet, valutate sull'intero set di validazione ImageNet-1k da 50.000 immagini, e introduce una cascata di recupero a più passaggi.
- Il collasso è altamente non lineare e concentrato nelle proiezioni pointwise tardive e nei layer depthwise.
- Mantenere meno del 5% delle attivazioni dei layer critici in precisione a 8 bit recupera fino al 92% dell'accuratezza persa durante la compressione aggressiva sotto i 4 bit.
- Su architetture CPU standard ARM e x86, il bit-unpacking software del runtime standard introduce un rallentamento di esecuzione da 1,48x a 21,5x a seconda della dimensione del batch.
Per gli sviluppatori di visione edge, i pesi sotto i 4 bit riducono lo storage anziché il throughput, quindi il recupero a precisione mista dovrebbe mirare alle proiezioni pointwise tardive e ai layer depthwise misurando l'overhead di unpac...
thinkingmachines/Inkling-2-Mini: transformer multimodale a loop da 26,4B con pesi aperti
Thinking Machines Lab rilascia Inkling 2 Mini, un transformer a loop nativamente multimodale con 26,4B parametri totali e 3,4B attivi, sotto Apache 2.0 con pesi aperti. Accetta input testuali e immagini e supporta una finestra di contesto fino a 1M token.
- 26,4B parametri totali e 3,4B attivi; i 12 layer intermedi vengono eseguiti tre volte con pesi condivisi, per 48 applicazioni di layer per token e 5,4B parametri attivi effettivi.
- L'architettura è un MoE sparso decoder-only a 24 layer che instrada ogni token verso 8 di 128 esperti per layer, con attenzione ibrida locale e globale.
- Distribuito come singolo checkpoint di circa 20GB in precisione mista NVFP4 e MXFP8, con inferenza locale supportata su 1x NVIDIA DGX Spark e dispositivi Apple silicon con 32GB o più di memoria.
- La model card riporta SWEBench Verified (solo bash) 79,2%, SWEBench Pro v2 (Hard) 77,9%, MMMU Pro Standard 10 74,9% e OmniDocBench v1.6 92,8%.
Gli sviluppatori ottengono un modello multimodale a pesi aperti eseguibile su hardware locale di classe 32GB, ma la model card dichiara recall fattuale inferiore a Inkling 2 Small e possibili azioni agentiche distruttive senza conferma, ric...
Hugging Face presenta gli harness adapters: adattare un modello al proprio harness di agente con il RL
Hugging Face pubblica una ricetta riutilizzabile che addestra un adattatore LoRA per harness di agente per Qwen3.8-27B con RL dentro Pi, OpenCode e Hermes Agent, poi fonde i tre LoRA in un unico super adattatore che funziona invariato nei tre harness.
- Ogni adattatore è stato addestrato su GPU NVIDIA 2×B200, con una GPU per il server vLLM e una per il processo di addestramento.
- La miscela di dati finale combina 750 attività dagli ambienti RL di harness-adapters con 300 attività da termgrade.
- Il dataset harness-hub/agentic-coding-envs contiene 871 attività da 35 repository, di cui 171 costituiscono il sottoinsieme qualificato per l'addestramento GRPO.
Per chi costruisce agenti, questo mostra che il fine-tuning con RL nell'harness effettivamente distribuito può aumentare il tasso di successo e ridurre l'uso di token senza cambiare il modello di base.
Addestrare modelli linguistici per la supervisione introspettiva
Il paper introduce la supervisione introspettiva: un ruolo separato di osservatore in terza persona viene aggiunto al modello per rispondere a domande sull'assistente, con ricompensa per le risposte verificate rispetto al comportamento effettivo dell'assistente. Su cinque valutazioni di supervisione trattenute, un osse...
- Un osservatore addestrato su Qwen3.6-27B ottiene un AUROC medio di 0,907 su cinque valutazioni di supervisione trattenute.
- Baseline: addestramento all'onestà 0,864, monitoraggio delle trascrizioni 0,828, oracoli di attivazione 0,796.
- Il paper riporta che addestrare un osservatore rende l'assistente stesso più facile da monitorare, con ogni metodo baseline che migliora in media sull'assistente ottimizzato.
- Il paper conta 31 pagine, 13 figure e 8 tabelle, inviato il 17 novembre 2026.
Per gli sviluppatori, ciò suggerisce un ruolo di osservatore addestrabile separatamente dall'assistente e solo per l'accuratezza, come via di supervisione oltre il monitoraggio esterno delle trascrizioni e i decoder di attivazione.
Watch Where You Linearize: prevedere e correggere l'interferenza nel model merging
Il paper mostra che una derivata direzionale del primo ordine degli output del task A lungo il vettore del task B può prevedere l'interferenza, ma solo se valutata sul modello ricevente, e costruisce LR-Merge per ottimizzare i coefficienti tramite teacher matching convesso senza etichette.
- Sul modello ricevente, la derivata prevede i merge vicini per task e per esempio, dimezza l'errore di accuratezza di una baseline senza modifiche e identifica la maggior parte degli esempi le cui previsioni si invertono.
- I merge multi-task completi richiedono due valutazioni lungo il percorso di merge; una singola valutazione non è sufficiente.
- Sul backbone pre-addestrato condiviso, la derivata è quasi ortogonale ai cambiamenti realizzati negli esperimenti di visione e solo parzialmente predittiva nei piloti di modelli linguistici LoRA.
Gli sviluppatori possono valutare la derivata direzionale sul modello ricevente per prevedere a basso costo l'interferenza del merge e usare il teacher matching convesso senza etichette di LR-Merge al posto della costosa ricerca dei coeffic...
Where the Tokens Go: calore, entropia ed errore nel coding agentico
Il paper introduce una teoria della termodinamica del software che conta i token generati da un agente di coding come costo e divide tale costo in lavoro e calore. Verifica la teoria facendo ripetutamente applicare e annullare modifiche a un repository da un agente, contando i token di ogni chiamata al modello.
- Il paper riporta che circa l'80 per cento dei token di un'esecuzione riuscita è generato in chiamate al modello che lasciano la modifica richiesta dov'era, ciò che gli autori chiamano calore.
- Il paper riporta che l'energia libera di una modifica, stimata per analogia con l'uguaglianza di Jarzynski, è dal 14 al 22 per cento del costo medio di un'esecuzione di coding riuscita.
- Il paper riporta che il coding costa da 1,1 a 1,5 volte quanto l'annullamento del coding.
- Il paper riporta che la dispersione del costo su cicli ripetuti definisce una temperatura del software, che aumentava con la temperatura di campionamento del modello.
Il quadro consente agli sviluppatori di separare la spesa in token di un agente in lavoro utile e calore sprecato, per individuare le chiamate al modello che non fanno avanzare la modifica richiesta.
RFBench: un benchmark multimodale basato su simulatore per la progettazione e la comprensione di layout RF passivi
Il paper presenta RFBench, un dataset e benchmark basati su simulatore per valutare modelli linguistici multimodali nella progettazione e comprensione di layout RF passivi attraverso sette attività.
- Il dataset contiene 10.000 layout planari a due porte simulati con ADS Momentum.
- Ogni layout include primitive geometriche modificabili, un'immagine raster, una griglia di occupazione 16x16, parametri S complessi a 201 punti di frequenza, una categoria strutturale e un'etichetta di risposta RF.
- Il paper riporta che il fine-tuning specifico per RF aumenta la validità strutturale T1a dallo 0,0% all'83,2% e il tasso entro 2 dB per input primitivo T3 dal 17,7% al 62,8%.
Il fine-tuning specifico per RF migliora sensibilmente la validità strutturale e la previsione di risposta, ma i risultati riportati mostrano che resta ampio margine per generare layout elettromagneticamente fedeli.
Stima dell'importanza globale per l'eviction della cache KV
Il paper introduce PRKV, un metodo di eviction della cache KV senza addestramento che stima l'importanza globale dei token su più salti applicando Personalized PageRank su grafi di transizione indotti dall'attenzione, consentendo la propagazione dell'importanza oltre la recency o l'attenzione istantanea senza modificar...
- PRKV è senza addestramento e non modifica il modello.
- Il metodo riduce l'uso massimo di memoria con basso overhead end-to-end.
- Il paper è stato accettato a NeurIPS 2026, di Seojin Kim e Noseong Park.
Per chi sviluppa inferenza a contesto lungo, PRKV indica che sostituire il punteggio basato su recency o attenzione istantanea con la stima dell'influenza globale su più salti può preservare le prestazioni di task ad alti rapporti di compre...