AI FRONTIER
Signals worth understanding before they become obvious.
FairStress: una valutazione più approfondita dell’equità nelle decisioni dei LLM
Ai2 presenta FairStress, un benchmark con 300 scenari decisionali a due candidati in 29 domini che verifica se i modelli cambiano decisione in modo asimmetrico sotto prefissi avversariali; combinando variazioni di identità e prefisso si arriva a oltre 13 milioni di casi di test.
- FairStress contiene 300 scenari realistici di decisione tra due candidati in 29 domini, tra cui assunzioni, sanità, credito, istruzione, abitazione e giustizia penale.
- La combinazione di identità demografica e variazioni di prefisso avversariale estende i 300 scenari a oltre 13 milioni di casi di test.
- FairStress-Core è un sottoinsieme di 50.000 elementi selezionato tramite teoria della risposta all’item per rendere la valutazione più rapida e meno costosa dal punto di vista computazionale.
- Il lavoro riporta un divario medio nell’abbandono delle risposte corrette su 15 modelli di 6,9 punti percentuali con identità implicita e 9,3 punti con etichette esplicite.
Gli sviluppatori dovrebbero estendere la valutazione dell’equità oltre la scelta finale alla stabilità decisionale, poiché il punteggio a opzioni fisse può non rilevare la sovracorrezione nelle decisioni generate.
ALTK-Evolve: la memoria appresa guida la classifica τ²-bench nelle attività di assistenza clienti senza un modello di frontiera
ALTK-Evolve di IBM Research estrae linee guida comportamentali dai tentativi di attività dell'agente stesso e le aggiunge al prompt di sistema, migliorando gli agenti di assistenza clienti senza aggiornare i pesi del modello. Un agente ReAct con GPT-4.1 raggiunge il 67,5% di Pass^4 su τ²-bench retail, sopra ogni voce r...
- Retail: il Pass^4 di base era 57,5%; la configurazione lossless (292 linee guida) lo ha portato al 67,5% (+10,0 punti), e l'accuratezza media è salita dal 78,1% all'82,5% (+4,4).
- Airline: il Pass^4 di base era 35,0%; la configurazione sup3 (14 linee guida) lo ha portato al 45,0% (+10,0), e l'accuratezza media lossless è salita dal 57,5% al 65,0% (+7,5).
- Classifica retail: Pass^4 = 67,5%, davanti a RAFT-30B-A3B (61,4%), un modello ottimizzato su dati retail sintetici di τ²-bench, di 6,1 punti.
- Classifica airline: l'agente con gpt-5.5 raggiunge l'82,0% di Pass^4, superando ogni voce di frontiera (66–72%); la configurazione sup3 con gpt-4.1 raggiunge il 44%, all'8° posto.
La memoria appresa a livello di prompt può portare un agente con modello standard al livello delle frontiere senza ottimizzazione dei pesi, con il costo che ricade soprattutto su token di input memorizzabili in cache.
Ant Ling rende open source la serie vocale Ming-3.0: cinque modelli per sintesi, riconoscimento e comprensione
Ant Ling ha reso open source la serie vocale Ming-3.0, composta da cinque modelli che coprono sintesi vocale, riconoscimento vocale e comprensione vocale.
- La pubblicazione proviene da Ant Ling.
- La serie vocale Ming-3.0 è composta da cinque modelli.
- La copertura comprende sintesi, riconoscimento e comprensione vocale.
Per gli sviluppatori, ottenere in un'unica pubblicazione cinque modelli vocali aperti che coprono sintesi, riconoscimento e comprensione riduce il costo di combinare modelli di fonti diverse in una pipeline vocale.
Chiavi API trapelate negli LLM: come gli agenti IA espongono segreti
Un abstract di articolo affronta le chiavi API trapelate negli LLM, inquadrato nelle questioni di capacità, valutazione o allineamento dei grandi modelli linguistici e rivolto a chi segue metodi e risultati sperimentali.
- La fonte è il blog GitGuardian, con il titolo «Leaked API Keys in LLMs: How AI Agents Expose Secrets».
- L'abstract afferma che il lavoro affronta questioni di capacità, valutazione o allineamento dei grandi modelli linguistici.
- L'abstract afferma che il lavoro è adatto a chi è interessato a metodi e risultati sperimentali.
Chi costruisce agenti LLM deve trattare le chiavi API come segreti che possono essere esposti e progettare le difese partendo da questo presupposto.
NVIDIA Cosmos3-H-Dreams: dare vita alla chirurgia clinica attraverso la simulazione generativa
NVIDIA pubblica Cosmos3-H-Dreams, un simulatore chirurgico generativo in tempo reale basato su Cosmos3-H-Embodied-Nano da 16 miliardi di parametri e addestrato su video di colecistectomia clinica e cinematica robotica, che funziona in modo interattivo su una singola GPU NVIDIA RTX PRO 6000.
- Si basa su Cosmos3-H-Embodied-Nano, un modello da 16 miliardi di parametri preaddestrato su Open-H-Embodiment.
- L'addestramento usa video 832 x 480 con azioni allineate a 10 Hz e 28 dimensioni di azione.
- Il modello insegnante viene prima adattato su 24 fotogrammi futuri, poi esteso a 72 fotogrammi, 2,4 e 7,2 secondi a 10 Hz.
- Sono rilasciati checkpoint di denoising a quattro e due passi; il modello a due passi è addestrato separatamente, non è il modello a quattro passi eseguito con meno passi di campionamento.
Gli sviluppatori possono adattare questo modello del mondo chirurgico in tempo reale ai propri video e dati del controller con la ricetta fornita di fine-tuning dell'insegnante e distillazione Self-Forcing.
AnyLanguageModel 1.0: un anno di modelli locali sulle piattaforme Apple
AnyLanguageModel 1.0 esce come sostituto diretto del framework Foundation Models di Apple, così lo stesso codice di sessione può usare il modello di sistema, modelli a pesi aperti tramite llama.cpp, MLX e Core ML, e diversi provider ospitati.
- Sostituendo import FoundationModels con import AnyLanguageModel lo stesso codice di sessione funziona con il modello di sistema, llama.cpp, MLX, Core ML e i provider ospitati.
- Le chiamate agli strumenti e la generazione guidata ora funzionano con ogni provider, inclusi i tipi @Generable annidati e i loro array.
- I provider ospitati includono le API Chat Completions e Responses di OpenAI, Open Responses, la Messages API di Anthropic, la Gemini API di Google, Ollama, Private Cloud Compute e Hugging Face Inference Providers.
- I modelli citati nell'articolo includono Gemma 4 E2B (GGUF, circa 3,4 GB in Q4_0), LFM2.5 2.6B (GGUF, circa 1,7 GB in Q4_K_M), Qwen3.8 27B (MLX, circa 16 GB a 4 bit) e GLM-5.3 (circa 1,5 TB in BF16).
Per gli sviluppatori su piattaforme Apple, cambiare una riga di import fa condividere a inferenza locale e ospitata lo stesso codice di sessione, riducendo il lavoro di integrazione per provider.
OpenMOSS-Team pubblica MOSS-Image-SFT, modello testo-immagine da 5,1B con licenza Apache-2.0
MOSS-Image-SFT è un modello testo-immagine con fine-tuning supervisionato della famiglia MOSS-Image di OpenMOSS, derivato da MOSS-Image-Base con la stessa architettura e pipeline di inferenza, e supporta prompt in linguaggio naturale, sequenze di tag e layout JSON per controllare il posizionamento del testo e la dispos...
- Il modello ha 5B parametri e i pesi con il codice di inferenza incluso sono rilasciati con licenza Apache, versione 2.0.
- La model card indica che l'SFT produce un raggruppamento del testo più chiaro e un layout della lavagna più ordinato rispetto a MOSS-Image-Base.
- L'esecuzione richiede Python 3.10 o successivo, una GPU NVIDIA con supporto CUDA e una build di PyTorch 2.9 o successiva.
- Le impostazioni di campionamento predefinite sono Flow-matching Euler, 50 passi, CFG 3, Shift 5, con salto del layer di indice 22 nel ramo negativo.
Per gli sviluppatori, un modello testo-immagine da 5B con licenza Apache-2.0 e controllo tramite layout JSON può inserirsi direttamente in pipeline creative che richiedono posizionamento preciso di testo e oggetti.