Today’s frontier report
Research Pool → Multi-Scout → Editor → Edition
3qk7 · AI LOCAL LABS TECHNICAL SCOUTING

AI FRONTIER

Signals worth understanding before they become obvious.

2026-11-21
01
testinferenceincremental

Pourquoi les CNN de vision sous 4 bits s'effondrent et où s'arrête la récupération en précision mixte

L'article analyse systématiquement l'effondrement de quantification de CNN de vision standard, notamment les backbones ResNet et EfficientNet, évalués sur l'ensemble complet de 50 000 images de validation ImageNet-1k, et introduit une cascade de récupération multi-étapes.

  • L'effondrement est fortement non linéaire et concentré dans les projections pointwise tardives et les couches depthwise.
  • Conserver moins de 5 % des activations de couches critiques en précision 8 bits récupère jusqu'à 92 % de la précision perdue lors d'une compression agressive sous 4 bits.
  • Sur les architectures CPU standard ARM et x86, le dépaquetage logiciel des bits par le runtime standard introduit un ralentissement d'exécution de 1,48x à 21,5x selon la taille de lot.

Pour les développeurs de vision embarquée, les poids sous 4 bits réduisent le stockage plutôt que le débit, donc la récupération en précision mixte doit cibler les projections pointwise tardives et les couches depthwise tout en mesurant le ...

arXiv cs.AI
02
testmodelscapability unlock

thinkingmachines/Inkling-2-Mini : un transformer multimodal bouclé de 26,4B à poids ouverts

Thinking Machines Lab publie Inkling 2 Mini, un transformer bouclé nativement multimodal de 26,4B de paramètres totaux et 3,4B actifs, sous licence Apache 2.0 avec poids ouverts. Il accepte des entrées texte et image et prend en charge une fenêtre de contexte allant jusqu'à 1M de tokens.

  • 26,4B de paramètres totaux et 3,4B actifs ; les 12 couches intermédiaires s'exécutent trois fois avec des poids partagés, soit 48 applications de couches par token et 5,4B de paramètres actifs effectifs.
  • L'architecture est un MoE clairsemé decoder-only de 24 couches qui route chaque token vers 8 experts sur 128 par couche, avec une attention hybride locale et globale.
  • La fiche du modèle rapporte SWEBench Verified (bash uniquement) 79,2 %, SWEBench Pro v2 (Hard) 77,9 %, MMMU Pro Standard 10 74,9 % et OmniDocBench v1.6 92,8 %.

Les développeurs obtiennent un modèle multimodal à poids ouverts tenant sur du matériel local de classe 32GB, mais la fiche indique des rappels factuels plus faibles qu'Inkling 2 Small et des actions agentiques destructrices possibles sans ...

Hugging Face Trending
03
testdeveloperopen source unlock

Hugging Face lance les harness adapters : adapter un modèle à son harness d'agent par RL

Hugging Face publie une recette réutilisable qui entraîne un adaptateur LoRA par harness d'agent pour Qwen3.8-27B via RL dans Pi, OpenCode et Hermes Agent, puis fusionne les trois LoRA en un super adaptateur fonctionnant tel quel sous les trois harness.

  • Chaque adaptateur a été entraîné sur des GPU NVIDIA 2×B200, un GPU pour le serveur vLLM et un pour le processus d'entraînement.
  • Le mélange de données final combine 750 tâches issues des environnements RL harness-adapters et 300 tâches issues de termgrade.
  • Le jeu de données harness-hub/agentic-coding-envs contient 871 tâches issues de 35 dépôts, dont 171 forment le sous-ensemble qualifié pour l'entraînement GRPO.

Pour les équipes qui construisent des agents, cela montre qu'un affinage RL dans le harness réellement déployé peut augmenter le taux de réussite tout en réduisant les tokens consommés, sans changer le modèle de base.

Hugging Face Blog
04
watchresearchcapability unlock

Entraîner des modèles de langage pour une supervision introspective

L'article introduit la supervision introspective : un rôle d'observateur tiers distinct est ajouté au modèle pour répondre à des questions sur l'assistant, avec une récompense pour les réponses vérifiées par rapport au comportement réel de l'assistant. Sur cinq évaluations de supervision en réserve, un observateur entr...

  • Un observateur entraîné sur Qwen3.6-27B obtient un AUROC moyen de 0,907 sur cinq évaluations de supervision en réserve.
  • Références : entraînement à l'honnêteté 0,864, surveillance des transcriptions 0,828, oracles d'activation 0,796.
  • L'article rapporte que l'entraînement d'un observateur rend l'assistant lui-même plus facile à surveiller, toutes les méthodes de référence s'améliorant en moyenne sur l'assistant affiné.
  • L'article compte 31 pages, 13 figures et 8 tableaux, soumis le 17 novembre 2026.

Pour les développeurs, cela suggère un rôle d'observateur entraînable séparément de l'assistant et uniquement pour l'exactitude, comme voie de supervision au-delà de la surveillance externe des transcriptions et des décodeurs d'activation.

arXiv cs.AI
05
testresearchincremental

Watch Where You Linearize : prédire et corriger l'interférence de fusion de modèles

L'article montre qu'une dérivée directionnelle du premier ordre des sorties de la tâche A le long du vecteur de la tâche B peut prédire l'interférence, mais uniquement lorsqu'elle est évaluée au modèle récepteur, et construit LR-Merge pour optimiser les coefficients via un appariement d'enseignant convexe sans étiquett...

  • Les fusions multi-tâches complètes nécessitent deux évaluations le long du chemin de fusion ; une seule évaluation est insuffisante.
  • Au backbone pré-entraîné partagé, la dérivée est presque orthogonale aux changements réalisés dans les expériences de vision et n'est que partiellement prédictive dans les pilotes de modèles de langage LoRA.

Les constructeurs peuvent évaluer la dérivée directionnelle au modèle récepteur pour prédire à moindre coût l'interférence de fusion et utiliser l'appariement d'enseignant convexe sans étiquettes de LR-Merge au lieu d'une recherche coûteuse...

arXiv cs.LG
06
watchagentsincremental

Where the Tokens Go : chaleur, entropie et erreur dans le codage agentique

L'article introduit une théorie de la thermodynamique logicielle qui compte les tokens générés par un agent de codage comme coût et divise ce coût en travail et chaleur. Il teste la théorie en faisant modifier puis annuler de façon répétée des changements de dépôt par un agent, en comptant les tokens de chaque appel de...

  • L'article rapporte qu'environ 80 % des tokens d'une exécution réussie sont générés dans des appels de modèle qui laissent la modification demandée là où elle était, ce que les auteurs appellent la chaleur.
  • L'article rapporte que l'énergie libre d'une modification, estimée par analogie avec l'égalité de Jarzynski, représente 14 à 22 % du coût moyen d'une exécution de codage réussie.
  • L'article rapporte que le codage coûte 1,1 à 1,5 fois plus cher que le décodage inverse.
  • L'article rapporte que la dispersion du coût sur des cycles répétés définit une température logicielle, qui augmentait avec la température d'échantillonnage du modèle.

Ce cadre permet aux développeurs de séparer la dépense en tokens d'un agent entre travail utile et chaleur perdue afin de cibler les appels de modèle qui ne font pas avancer la modification demandée.

arXiv cs.AI
07
watchresearchbenchmark jump

RFBench : un benchmark multimodal ancré dans un simulateur pour la conception et la compréhension de layouts RF passifs

L'article présente RFBench, un jeu de données et un benchmark ancrés dans un simulateur pour évaluer les modèles de langage multimodaux sur la conception et la compréhension de layouts RF passifs à travers sept tâches.

  • Le jeu de données contient 10 000 layouts planaires à deux ports simulés avec ADS Momentum.
  • L'article rapporte qu'un affinage spécifique RF augmente la validité structurelle T1a de 0,0 % à 83,2 % et le taux dans les 2 dB pour l'entrée primitive T3 de 17,7 % à 62,8 %.

L'affinage spécifique RF améliore nettement la validité structurelle et la prédiction de réponse, mais les résultats rapportés montrent qu'il reste une marge importante pour générer des layouts électromagnétiquement fidèles.

arXiv cs.AI
08
testinferencecost collapse

Estimation d'importance globale pour l'éviction du cache KV

L'article présente PRKV, une méthode d'éviction de cache KV sans entraînement qui estime l'importance globale multi-saut des tokens en appliquant Personalized PageRank sur des graphes de transition induits par l'attention, permettant une propagation de l'importance au-delà de la récence ou de l'attention instantanée sa...

  • PRKV est sans entraînement et ne modifie pas le modèle.
  • La méthode réduit l'utilisation mémoire de pointe avec un faible surcoût de bout en bout.
  • L'article a été accepté à NeurIPS 2026, par Seojin Kim et Noseong Park.

Pour les développeurs d'inférence à long contexte, PRKV indique que remplacer le score de récence ou d'attention instantanée par une estimation d'influence globale multi-saut peut préserver les performances de tâche à fort taux de compressi...

arXiv cs.CL