Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-12
01
watchresearchcapability unlock

Lazare : reprogrammer des neurones dormants pour porter atteinte aux agents d'IA

Des chercheurs de Microsoft ont découvert Lazarus, une technique de porte dérobée qui reprogramme moins de 10 neurones dormants d'un LLM pour qu'un agent construit dessus exécute des commandes malveillantes lorsqu'un déclencheur caché apparaît, sans entraînement.

  • Reprogrammer les poids de moins de 10 neurones dormants d'un LLM suffit à porter atteinte à un agent construit dessus, sans nécessiter d'entraînement.
  • Le déclencheur peut être aussi banal qu'un changement de date : une fois l'horloge passée à 2027, l'agent émet en pleine tâche une commande qui télécharge et exécute le code d'un attaquant.
  • L'article rapporte qu'un classifieur linéaire ajusté sur environ 50 exemples peut distinguer les entrées avec déclencheur de celles sans déclencheur.
  • L'attaque ne nécessite que du calcul d'inférence : une machine disposant de suffisamment de RAM pour exécuter un modèle peut le porter atteinte dans l'espace des poids.

Les constructeurs doivent traiter l'intégrité des poids comme celle du code : sans comparaison avec les poids originaux non modifiés, aucun scan ne peut prouver qu'un modèle est sûr, ce qui rend la provenance et la vérification avant déploi...

Microsoft Research
02
testagentsopen source unlock

BotPsy : un assistant personnel embarqué doté d'un modèle de langage agentique de moins d'un milliard de paramètres

Tether AI Research présente BotPsy, un modèle de 0,8 milliard de paramètres construit sur Qwen3.5-0.8B et conçu pour l'appel de fonctions et les workflows agentiques, adapté à un déploiement embarqué.

  • BFCL v4 passe de 23,4 à 44,0, ACEBench de 30,1 à 58,7 et τ-bench de 23,2 à 51,5.
  • Il devance Qwen3.5-2B-Think sur BFCL v4, ACEBench, τ-bench, ToolSandbox et BrowseComp-Plus ; seul Claw-Eval place Qwen3.5-2B-Think en tête (48,9 contre 46,5).
  • IFEval passe de 59,7 à 90,8 et IFBench de 22,0 à 55,9.
  • Il sera publié avec des poids ouverts sous licence Apache 2.0 en trois précisions (bf16, Q8, Q4), aux formats safetensors et GGUF.

Pour les développeurs d'agents embarqués, BotPsy montre qu'un modèle de 0,8 milliard de paramètres peut devancer un modèle 2,5 fois plus grand sur les benchmarks d'usage d'outils, tandis que les tâches de connaissance restent liées au nombr...

Hugging Face Blog
03
testmodelscapability unlock

Nouveau modèle OpenRouter : Baidu ERNIE-5.5-Flash-Preview (gratuit)

ERNIE-5.5-Flash-Preview de Baidu est disponible gratuitement sur OpenRouter avec 280 milliards de paramètres au total, 14 milliards activés par token et une fenêtre de contexte d'un million de tokens.

  • 280 milliards de paramètres au total, avec 14 milliards activés par token.
  • Fenêtre de contexte de 1 024 000 tokens, avec prise en charge de jusqu'à 1 024 000 tokens de complétion.
  • La page indique que la nouvelle architecture offre des vitesses de génération supérieures à 200 tokens par seconde.
  • Hébergé par un seul fournisseur, Baidu Qianfan, à prix nul ; les points de terminaison gratuits sont soumis à des limites de débit.

Un contexte gratuit d'un million de tokens avec activation parcimonieuse convient au prototypage de documents longs et de workflows agentiques, mais il faut tenir compte du fournisseur unique et des limites de débit.

OpenRouter Models
04
watchresearchcapability unlock

AlphaGenome 2 : décrypter la lecture de l'ADN par les cellules pour mieux comprendre les maladies

Google DeepMind a annoncé AlphaGenome 2, un modèle de séquence d'ADN de nouvelle génération qui utilise une architecture conditionnelle pour prédire les effets des variants dans des types ou états cellulaires spécifiques et s'adapte à de nouvelles données unicellulaires sans réentraînement.

  • Le modèle a été entraîné sur plus de 107 millions de profils cellulaires individuels issus de 68 tissus.
  • Il prédit l'expression génique, les modifications d'histones, l'accessibilité de la chromatine et la méthylation de l'ADN.
  • AlphaGenome 2 est disponible aujourd'hui pour la recherche non commerciale via l'API AlphaGenome et en aperçu privé pour la recherche commerciale.

La modélisation unicellulaire conditionnelle permet aux chercheurs de localiser les effets des variants dans des types cellulaires pertinents pour la maladie sans réentraîner le modèle pour chaque nouveau jeu de données.

Google DeepMind
05
testinferencecost collapse

HOPE : élagage d'ordre supérieur des experts dans les modèles de langage Mixture-of-Experts

HOPE est une méthode d'élagage d'experts du second ordre qui construit une matrice d'interaction par paires entre experts F sur un ensemble de calibration et résout un programme quadratique pour choisir l'ensemble à élaguer, au lieu de noter chaque expert indépendamment comme le font les méthodes du premier ordre.

  • À 50 % d'élagage, HOPE obtient un rang moyen de 1,58 contre 2,42 pour la méthode suivante, REAP.
  • Sur Qwen3.5-35B-A3B à 50 % d'élagage, HOPE a obtenu 42,3 sur SWE-Bench Pro, égalant les 41,8 du modèle non élagué, tandis que REAP chutait à 36,2.
  • La diagonale de la matrice F retrouve presque parfaitement les classements d'experts de REAP (Spearman ρ = 0,988), donc les gains de HOPE sur REAP proviennent des termes d'interaction hors diagonale.
  • HOPE nécessite la même passe de calibration unique que les méthodes du premier ordre, le seul ajout étant un programme quadratique résolu en environ 1 à 2 secondes par couche.

Pour les équipes déployant de grands MoE sous contrainte de mémoire, HOPE montre que modéliser la coopération par paires entre experts préserve les capacités de codage agentique à des taux d'élagage agressifs, là où une notation indépendant...

Hugging Face Blog
06
testdocumentsincremental

Entraînement sensible au Token Pooling pour les modèles d'embedding multi-vecteurs

Un article de blog Hugging Face présente l'entraînement sensible au pooling dans Sentence Transformers, qui applique une perte de recherche aux embeddings de documents originaux et compressés afin que l'encodeur préserve les informations utiles après la fusion des vecteurs de tokens.

  • Avec pool_factor=4, un modèle entraîné normalement conserve 94,6 % de son nDCG@10 NanoBEIR non poolé, avec une réduction de 4x des vecteurs de documents.
  • L'entraînement sensible au pooling porte cette rétention à 97,8 % pour le même budget de stockage.
  • La perte est L = 1/2 L_unpooled + 1/2 L_pooled, les deux objectifs mettant à jour le même encodeur.
  • HierarchicalTokenPooling utilise le clustering hiérarchique de Ward et, pendant l'entraînement, un estimateur straight-through pour transmettre les gradients des vecteurs poolés à leurs tokens membres.

Pour les systèmes de recherche multi-vecteurs, l'entraînement sensible au pooling permet de récupérer la qualité de recherche perdue par la compression via l'alignement de l'objectif d'entraînement, sans augmenter le stockage de vecteurs.

Hugging Face Blog
07
watchresearchincremental

Entraîner au prefill, surveiller au décodage : utiliser des autoencodeurs parcimonieux pour la surveillance thématique

L'article présente TopicScope, un cadre pour entraîner des classificateurs thématiques causaux sur des caractéristiques SAE qui attribuent un thème à chaque token, de sorte que l'étiquette puisse changer en cours de réponse. Sur Gemma-3 1B et 4B, les moniteurs entraînés sur des caractéristiques extraites des états cach...

  • Trois architectures de détecteurs ont été entraînées sur des conversations synthétiques multi-thèmes couvrant sept thèmes.
  • Sur Gemma-3 1B et 4B, les moniteurs entraînés sur des caractéristiques extraites des états cachés de prefill ont généralisé au décodage.
  • Les classificateurs sont robustes aux perturbations, perdant au plus 5 points de macro-F1 lors de l'insertion de digressions hors sujet, de la suppression de thèmes ou de la réorganisation de sections.
  • Des ablations sur la contribution du SAE ont montré que les classificateurs atteignant la performance de référence sans lui étaient plusieurs fois plus grands.

Cela montre que des moniteurs thématiques compacts peuvent être entraînés à faible coût au prefill et déployés pendant la génération, et indique où les SAE sont utiles au-delà de la classification de sécurité.

arXiv cs.AI