AI FRONTIER
Signals worth understanding before they become obvious.
StateBench : tester comment les modèles de langue suivent les changements d'état dans de longs documents
Ai2 présente StateBench, un benchmark pour le suivi d'état en contexte long comportant quatre niveaux de difficulté, qui évalue la capacité des modèles de langue à suivre l'évolution des informations sur les entités dans de longs documents.
- StateBench comporte quatre niveaux de difficulté : r-trivial (affectation immuable), apériodique (réaffectation par valeur), soluble (mises à jour autoréférentielles) et général fini (affectation par référence).
Les développeurs de systèmes à contexte long doivent évaluer les architectures séparément selon la complexité du suivi d'état, car les transformers échouent au niveau le plus difficile même en entraînement direct, alors que Gated DeltaNet e...
Coût par tâche : utiliser des classificateurs peu coûteux pour router entre les modèles Gemini et les niveaux de réflexion
Un article du blog Google for Developers aborde le routage sous l'angle du coût par tâche, en utilisant des classificateurs peu coûteux pour router entre les modèles Gemini et les niveaux de réflexion.
- La source est le blog Google for Developers, sur le thème du coût par tâche.
- L'approche utilise des classificateurs peu coûteux pour router entre les modèles Gemini et les niveaux de réflexion.
Pour les constructeurs d'IA, confier la décision de routage à un classificateur peu coûteux permet d'allouer le calcul par tâche entre modèles et niveaux de réflexion.
Anthropic annonce des progrès sur l'inférence prouvable pour les grands modèles de langage
Anthropic a publié une mise à jour de recherche sur les progrès vers une inférence prouvable pour les grands modèles de langage.
- La source est Anthropic ; la catégorie est la recherche.
- Le sujet porte sur les progrès de l'inférence prouvable pour les grands modèles de langage.
Les avancées en inférence prouvable pourraient offrir aux développeurs de meilleures garanties sur l'exactitude du raisonnement, ce qui mérite une surveillance.
Agentic World Modeling pour la mise à l'échelle au test des agents sans réplique d'environnement
L'article introduit Agentic World Modeling (AWM), qui reformule la prédiction de la prochaine observation comme une tâche multi-tours d'acquisition de preuves : un simulateur agentique interroge l'environnement réel via des interfaces sûres en lecture seule, raisonne sur les preuves retournées et utilise un calcul exéc...
- L'article rapporte qu'AWM surpasse une baseline de simulation à un seul essai de 40,07 % en moyenne sur τ-bench, AppWorld et OfficeBench.
- L'article rapporte qu'AWM dépasse une baseline de world model entraînée de 12,36 % en moyenne.
- AWM interroge l'environnement réel via des interfaces sûres en lecture seule et indique ne pas modifier l'état partagé.
Pour les constructeurs d'agents, AWM ouvre une voie d'exploration parallèle des trajectoires sur un seul environnement partagé sans le répliquer, ce qui compte lorsque l'état de production ne peut pas être réinitialisé.
CWE-bench v2 : plus de couverture, de qualité et de transparence
Collinear AI publie CWE-bench v2, un ensemble public de 100 tâches couvrant 91 CWE avec un scoring programmatique déterministe, ainsi qu'un ensemble retenu pour suivre les progrès.
- L'ensemble public contient 100 tâches couvrant 91 CWE différents.
- Sur 11 modèles évalués, Gemini 4 Argon mène avec 67,8 % pass@1 et 81,0 % pass@4, devant Claude Opus 5.5 à 67,3 % pass@1 et 78,0 % pass@4.
- 95 tâches sont résolues par au moins un modèle, mais même le leader échoue sur 19 % de l'ensemble à chaque tentative.
- DeepSeek V4.1 Flash atteint 57,0 % pass@1 à 0,04 $ par rollout, Opus à 1,83 $ et Gemini à 3,92 $.
Les constructeurs peuvent exécuter ce benchmark déterministe directement depuis le dépôt Hugging Face et réutiliser les mêmes environnements et vérificateurs comme récompenses RL pour entraîner des agents défensifs.
DeepSeek lance le mode Créateur et prévoit de préentraîner son prochain grand modèle sur des puces Huawei Ascend
Selon ThePaper.cn, DeepSeek a lancé le mode Créateur et prévoit de préentraîner son prochain grand modèle sur des puces Huawei Ascend.
- ThePaper.cn rapporte que DeepSeek a lancé le mode Créateur.
- ThePaper.cn rapporte que DeepSeek prévoit de préentraîner son prochain grand modèle sur des puces Huawei Ascend.
Si le prochain modèle est bien préentraîné sur Ascend, les développeurs IA devront évaluer les coûts de migration et la maturité de la chaîne d'outils hors NVIDIA.
Mise à l'échelle de Git chez OpenAI : le backend Pando
OpenAI a construit Pando, un backend compatible avec Git, conçu pour l'échelle de développement que Codex rend possible.
- Pando est décrit comme un backend compatible avec Git.
- OpenAI indique que Pando est conçu pour l'échelle de développement que Codex rend possible.
Pour les constructeurs d'IA, cela indique que l'adoption des agents de codage pousse à repenser l'infrastructure interne de gestion de versions.
baidu/Unlimited-OCR-2 : un modèle OCR multimodal de 3,3B paramètres avec SR-SWA pour l'analyse de documents sans limite de longueur
Baidu a publié Unlimited-OCR-2, qui utilise Sparse Reference Sliding Window Attention (SR-SWA) pour compresser les interactions d'attention texte-vision en un ensemble de références de taille fixe (par exemple 512 tokens), gardant la latence de décodage par étape et l'empreinte mémoire presque constantes quelle que soi...
- Le modèle compte 3,3B paramètres, utilise les types de tenseurs I64 et BF16, et est publié sous licence MIT.
- SR-SWA compresse les interactions d'attention texte-vision en un ensemble de références de taille fixe (par exemple 512 tokens), gardant la latence de décodage par étape et l'empreinte mémoire presque constantes.
- L'article rapporte des performances état de l'art sur des benchmarks de plusieurs dizaines de pages comme MPDocBench et sur des benchmarks extrêmes de cent pages comme MarathonDocBench.
- Transformers a été testé avec Python 3.10, torch 2.13.0 et transformers 4.52.1 sur un NVIDIA A800-80GB ; SGLang est recommandé pour le service.
Pour les développeurs de pipelines d'analyse documentaire, SR-SWA rend le coût d'attention des documents longs presque constant au lieu de dépendre de la longueur, permettant d'analyser des documents de cent pages en une seule requête dans ...