AI FRONTIER
Signals worth understanding before they become obvious.
MoEZip : compression du cache KV sensible au routage pour les LLM à mélange d'experts creux
MoEZip propose une compression du cache KV sensible au routage qui note les contextes en combinant les poids d'attention avec une métrique de sensibilité issue de la matrice d'information de Fisher des distributions de routage, afin de traiter le fait que l'éviction KV peut modifier la sélection des experts en inférenc...
- L'article rapporte qu'à un taux de rétention KV de 10 %, MoEZip dépasse la référence SoTA de +24 et +20 points en moyenne sur LongBench et RULER, soit des scores 2,3 fois et 4,9 fois plus élevés.
- MoEZip introduit une métrique fondée sur la matrice d'information de Fisher des distributions de routage pour estimer la sensibilité du routage des experts à une perturbation.
- L'article a été accepté à NeurIPS 2026 et correspond à arXiv:2610.30206, soumis le 21 octobre 2026.
Pour les équipes qui déploient des modèles MoE creux sur de longs contextes, MoEZip indique que les politiques d'éviction KV doivent tenir compte explicitement de la stabilité du routage des experts pour préserver la qualité de génération s...
Transformer l'évaluation de bases de données en récompenses RL : post-entraînement d'agents avec ThinkingBox
Microsoft et Hugging Face ont publié ThinkingBox-Training, qui utilise des vérifications exécutables de l'état final de la base de données comme récompenses GRPO ; après 50 étapes de fine-tuning de Qwen3.8-27B, le taux de réussite moyen est passé de 51,70 % à 60,78 %.
- Le pass@1 de Qwen3.8-27B est passé de 5 242 tentatives (51,70 %) à 6 163 tentatives (60,78 %), soit un gain de 9,08 points.
- Les tâches réussies sur les 20 tentatives sont passées de 38 (7,50 %) à 107 (21,10 %), soit 69 tâches de plus.
- Le pass@20 (tâches résolues au moins une fois) a baissé de 453 (89,35 %) à 446 (87,97 %), soit 7 tâches de moins.
- L'entraînement a utilisé 187 tâches, GRPO à moyenne de tokens, 50 étapes, 24 H100, un taux d'apprentissage de 1e-6 et AdamW sans décroissance de poids.
Pour les équipes qui construisent des agents, les vérifications exécutables de l'état final peuvent servir à la fois d'évaluateur et de signal de récompense, mais les gains de répétabilité peuvent s'accompagner d'une légère perte de couvert...
Apprentissage de noyaux spectraux fondé sur les flots pour l'attention non stationnaire
L'article propose flow-based spectral kernel attention (FSKA), un cadre qui formule l'attention kernelisée via l'apprentissage de densité spectrale et paramètre la densité spectrale bivariée obtenue par des flots de normalisation afin d'apprendre des noyaux d'attention non stationnaires.
- FSKA formule l'attention kernelisée via l'apprentissage de densité spectrale et paramètre la densité spectrale bivariée obtenue par des flots de normalisation.
- Cette conception permet une architecture d'attention simplifiée avec suppression des projections query–key et projections value orthogonales fixes, ce qui la rend plus économe en paramètres.
Pour les constructeurs, FSKA indique qu'apprendre des noyaux non stationnaires avec des flots de normalisation peut réduire d'environ 40 %–47 % les paramètres entraînables liés aux projections tout en préservant la mise à l'échelle mémoire ...
Amener les modèles fondamentaux au front du dépistage de la tuberculose
Google Research a présenté à IDWeek 2026 son parcours de dépistage de la tuberculose, des algorithmes de radiographie thoracique à un outil clinique certifié CE et aux modèles fondamentaux ouverts MedGemma et MedSigLIP pour un déploiement local.
- Google Research indique que la tuberculose tue environ 1,23 million de personnes par an.
- L'appareil de Nexus AI analyse les radiographies thoraciques pour des maladies pulmonaires comme la tuberculose en 45 secondes au minimum.
- L'outil est utilisé dans environ 40 établissements de santé répartis dans six pays, où plus de 90 cliniciens ont évalué plus de 25 000 radiographies thoraciques.
- MedGemma est une famille de modèles multimodaux à poids ouverts, avec des configurations de 4B et 27B paramètres, et plus de 10 millions de téléchargements depuis son lancement.
Pour les développeurs d'IA en santé, les modèles à poids ouverts et l'exécution locale permettent des outils de dépistage souverains affinés sur des radiographies nationales.
Latent Space Jam : synthèse vidéo guidée par disposition sans entraînement
L'article propose une méthode en deux passes sans entraînement qui exploite un modèle de diffusion vidéo préentraîné : l'attention croisée guidée par le prompt oriente le placement spatio-temporel des objets pour produire un guide visuel grossier, puis ce guide conditionne le même modèle pour générer une vidéo de haute...
- L'approche ne nécessite ni entraînement supplémentaire, ni données, ni modification d'architecture, et utilise des modèles de diffusion vidéo préentraînés.
- Elle fonctionne en deux passes : la première produit un guide visuel grossier via l'attention croisée guidée par le prompt, la seconde conditionne le même modèle sur ce guide.
- L'article rapporte que la méthode surpasse systématiquement les travaux antérieurs en précision de recouvrement et de trajectoire ainsi qu'en qualité visuelle, sur des scènes statiques, dynamiques et multi-objets.
Pour les développeurs, le contrôle de la disposition et du mouvement peut être ajouté aux modèles de diffusion vidéo existants sans coût d'entraînement, ce qui abaisse la barrière de la génération vidéo contrôlable.
CiteAnchor : un ancrage sensible à la source pour détecter et résoudre les citations hallucinées
L'article introduit CiteResolve, un benchmark de 423 citations hallucinées réelles annotées selon la récupérabilité de la source, et propose CiteAnchor, un cadre d'ancrage sensible à la source qui adapte la recherche et la vérification au niveau des champs à chaque type de source et détermine séparément la validité de ...
- CiteResolve est un benchmark de 423 citations hallucinées réelles annotées selon la récupérabilité de la source.
- Sur un benchmark de détection existant, CiteAnchor atteint 0,841 F1 avec GPT-5.6 Luna et 0,784 F1 avec un backbone à poids ouverts.
- L'article rapporte un dépassement de la baseline utilisant les mêmes backbones de 7,9 et 36,8 points.
- Sur CiteResolve, il atteint 74,7 % et 70,7 % de réussite de tâche de bout en bout, ce que l'article rapporte comme 16,3 et 65,3 points de pourcentage au-dessus des baselines de recherche web correspondantes.
Pour les développeurs de systèmes de vérification bibliographique et de génération augmentée par recherche, ce travail sépare la validité de la citation de la récupérabilité de la source et publie le code et les données.
TauIndianBankBench : évaluation orientée action et sensible aux procédures des agents conversationnels utilisant des outils
L'article présente TauIndianBankBench, un benchmark orienté action de 1 000 tâches de banque de détail indienne qui vérifie, au-delà des enregistrements finaux, si l'assistant a effectué chaque étape requise et n'a procédé à aucune modification non demandée. L'article rapporte que lorsque seuls les enregistrements fina...
- Le benchmark comprend 1 000 tâches de banque de détail indienne dans lesquelles un assistant aide un client simulé.
- L'évaluation vérifie les enregistrements finaux, l'exécution de chaque étape requise et l'absence de modification non demandée.
- L'article rapporte qu'avec une vérification limitée aux enregistrements finaux, 6,5-12,0 % des sessions par modèle sont jugées réussies malgré une étape requise sautée ou une modification non demandée.
- L'article compte 15 pages, 6 figures et 14 tableaux, et fournit des liens vers le code et les données.
Pour les équipes qui construisent des agents bancaires, ce benchmark montre qu'une notation fondée uniquement sur l'état final surestime le respect des procédures, d'où la nécessité d'évaluer les étapes requises et les actions non autorisée...
Créer des applications plus réactives avec l’API Decisions
OpenAI News publie l’API Decisions, présentée comme fournissant des décisions rapides, ciblées et à faible coût pour toute application.
- La source est OpenAI News ; le titre de l’élément est « Build more responsive apps with the Decisions API ».
- La description en une ligne indique : « Fast, focused, low-cost decisions for any application. »
- L’élément est classé dans la catégorie developer avec un type de changement cost_collapse.
Si l’API fournit comme annoncé des décisions ciblées à faible coût, les développeurs pourront placer les appels de décision directement dans les parcours interactifs plutôt que de dépendre d’appels de modèles plus lourds.