Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-12
01
watchresearchcapability unlock

Lazare: riprogrammare neuroni dormienti per inserire backdoor negli agenti di IA

I ricercatori di Microsoft hanno scoperto Lazarus, una tecnica di backdoor che riprogramma meno di 10 neuroni dormienti in un LLM, in modo che un agente costruito su di esso esegua comandi malevoli quando compare un trigger nascosto, senza bisogno di addestramento.

  • Riprogrammare i pesi di meno di 10 neuroni dormienti in un LLM è sufficiente per inserire una backdoor in un agente costruito su di esso, e non richiede addestramento.
  • Il trigger può essere banale come un cambio di data: quando l'orologio supera la mezzanotte verso il 2027, l'agente emette nel mezzo di un'attività ordinaria un comando che scarica ed esegue il codice di un attaccante.
  • Il paper riporta che un classificatore lineare addestrato su circa 50 esempi riesce a distinguere gli input con il trigger da quelli senza.
  • L'attacco richiede solo calcolo di inferenza: se una macchina ha RAM sufficiente per eseguire un modello, ne ha abbastanza per inserire la backdoor nello spazio dei pesi.

Gli sviluppatori dovrebbero trattare l'integrità dei pesi come quella del codice: senza un confronto con i pesi originali non modificati, nessuna scansione può dimostrare che un modello è sicuro, rendendo essenziali provenienza e verifica p...

Microsoft Research
02
testagentsopen source unlock

BotPsy: assistente personale on-device con un modello linguistico agentico sotto il miliardo di parametri

Tether AI Research presenta BotPsy, un modello da 0,8 miliardi di parametri costruito su Qwen3.5-0.8B e progettato per il function calling e i flussi di lavoro agentici, adatto al deployment on-device.

  • BFCL v4 sale da 23,4 a 44,0, ACEBench da 30,1 a 58,7 e τ-bench da 23,2 a 51,5.
  • Supera Qwen3.5-2B-Think su BFCL v4, ACEBench, τ-bench, ToolSandbox e BrowseComp-Plus; solo su Claw-Eval Qwen3.5-2B-Think è in testa (48,9 contro 46,5).
  • IFEval sale da 59,7 a 90,8 e IFBench da 22,0 a 55,9.
  • Sarà rilasciato con pesi aperti con licenza Apache 2.0 in tre precisioni (bf16, Q8, Q4), come file safetensors e GGUF.

Per chi sviluppa agenti on-device, BotPsy mostra che un modello da 0,8 miliardi di parametri può superare un modello 2,5 volte più grande nei benchmark di uso degli strumenti, mentre i compiti di conoscenza restano legati al numero di param...

Hugging Face Blog
03
testmodelscapability unlock

Nuovo modello su OpenRouter: Baidu ERNIE-5.5-Flash-Preview (gratuito)

ERNIE-5.5-Flash-Preview di Baidu è disponibile gratuitamente su OpenRouter con 280 miliardi di parametri totali, 14 miliardi attivati per token e una finestra di contesto di 1 milione di token.

  • 280 miliardi di parametri totali, con 14 miliardi attivati per token.
  • Finestra di contesto di 1.024.000 token, con supporto fino a 1.024.000 token di completamento.
  • La pagina indica che la nuova architettura offre velocità di generazione superiori a 200 token al secondo.
  • Ospitato da un unico provider, Baidu Qianfan, a prezzo zero; gli endpoint gratuiti hanno limiti di velocità.

Un contesto gratuito da un milione di token con attivazione sparsa è adatto alla prototipazione di documenti lunghi e flussi agentici, ma occorre considerare il provider unico e i limiti di velocità.

OpenRouter Models
04
watchresearchcapability unlock

AlphaGenome 2: decifrare come le cellule leggono il DNA per comprendere meglio le malattie

Google DeepMind ha annunciato AlphaGenome 2, un modello di sequenza del DNA di nuova generazione che utilizza un'architettura condizionale per prevedere gli effetti delle varianti in tipi o stati cellulari specifici e si adatta a nuovi dati a cellula singola senza riaddestramento.

  • Il modello è stato addestrato su oltre 107 milioni di profili cellulari individuali provenienti da 68 tessuti.
  • Prevede espressione genica, modifiche degli istoni, accessibilità della cromatina e metilazione del DNA.
  • AlphaGenome 2 è disponibile oggi per la ricerca non commerciale tramite l'API AlphaGenome e in anteprima privata per la ricerca commerciale.

La modellazione condizionale a cellula singola consente ai ricercatori di individuare gli effetti delle varianti in tipi cellulari rilevanti per la malattia senza riaddestrare il modello per ogni nuovo dataset.

Google DeepMind
05
testinferencecost collapse

HOPE: pruning di ordine superiore degli esperti nei modelli linguistici Mixture-of-Experts

HOPE è un metodo di pruning degli esperti del secondo ordine che costruisce una matrice di interazione a coppie tra esperti F su un set di calibrazione e risolve un programma quadratico per scegliere il prune-set, invece di assegnare un punteggio a ciascun esperto indipendentemente come fanno i metodi del primo ordine.

  • Con il 50% di pruning, HOPE ottiene un rank medio di 1,58 contro 2,42 del metodo successivo, REAP.
  • Su Qwen3.5-35B-A3B con il 50% di pruning, HOPE ha ottenuto 42,3 su SWE-Bench Pro, eguagliando il 41,8 del modello non potenziato, mentre REAP è sceso a 36,2.
  • La diagonale della matrice F recupera quasi perfettamente i ranking degli esperti di REAP (Spearman ρ = 0,988), quindi i guadagni di HOPE su REAP derivano dai termini di interazione fuori diagonale.
  • HOPE richiede lo stesso singolo passaggio di calibrazione in avanti dei metodi del primo ordine; l'unica aggiunta è un programma quadratico risolto in circa 1–2 secondi per layer.

Per i team che distribuiscono MoE di grandi dimensioni con vincoli di memoria, HOPE mostra che modellare la cooperazione a coppie tra esperti preserva la capacità di coding agentico a tassi di pruning aggressivi, dove il punteggio indipende...

Hugging Face Blog
06
testdocumentsincremental

Addestramento consapevole del Token Pooling per modelli di embedding multi-vettore

Un post del blog di Hugging Face illustra l'addestramento consapevole del pooling in Sentence Transformers, che applica una loss di retrieval sia agli embedding dei documenti originali sia a quelli compressi, così l'encoder preserva le informazioni rilevanti dopo l'unione dei vettori dei token.

  • Con pool_factor=4, un modello addestrato normalmente conserva il 94,6% del suo nDCG@10 NanoBEIR non poolato, con una riduzione di 4x dei vettori dei documenti.
  • L'addestramento consapevole del pooling porta quella conservazione al 97,8% con lo stesso budget di archiviazione.
  • La loss è L = 1/2 L_unpooled + 1/2 L_pooled, con entrambi gli obiettivi che aggiornano lo stesso encoder.
  • HierarchicalTokenPooling usa il clustering gerarchico di Ward e, durante l'addestramento, uno straight-through estimator per trasmettere i gradienti dai vettori poolati ai token membri.

Per i sistemi di retrieval multi-vettore, l'addestramento consapevole del pooling consente di recuperare la qualità di retrieval persa per la compressione tramite l'allineamento dell'obiettivo di addestramento, senza aumentare l'archiviazio...

Hugging Face Blog
07
watchresearchincremental

Addestrare in prefill, monitorare in decode: uso di autoencoder sparsi per il monitoraggio dei topic

Il paper presenta TopicScope, un framework per addestrare classificatori causali di topic su feature SAE che assegnano un topic a ogni token, così che l'etichetta possa cambiare a metà di una risposta. Su Gemma-3 1B e 4B, i monitor addestrati su feature estratte dagli stati nascosti di prefill hanno generalizzato al de...

  • Tre architetture di rilevatori sono state addestrate su conversazioni sintetiche multi-topic che coprono sette topic.
  • Su Gemma-3 1B e 4B, i monitor addestrati su feature estratte dagli stati nascosti di prefill hanno generalizzato al decoding.
  • I classificatori sono robusti alle perturbazioni, perdendo al massimo 5 punti di macro-F1 quando vengono inserite digressioni fuori tema, rimossi topic o riordinati sezioni.
  • Ablazioni sul contributo del SAE hanno mostrato che i classificatori che raggiungevano le prestazioni di riferimento senza di esso erano diverse volte più grandi.

Ciò mostra che monitor di topic compatti possono essere addestrati a basso costo in prefill e distribuiti durante la generazione, e indica dove i SAE sono utili oltre la classificazione di sicurezza.

arXiv cs.AI