AI FRONTIER
Signals worth understanding before they become obvious.
AlphaProof Code : une avancée dans la vérification approfondie de logiciels complexes
Des chercheurs de Google DeepMind ont utilisé AlphaProof Code, un cadre agentique, pour vérifier formellement des propriétés de sécurité clés du code réel du protocole Signal, les agents ayant généré plus de six millions de lignes de Lean.
- AlphaProof Code est un cadre agentique multi-LLM où des experts humains décident avec l'IA de ce qu'il faut prouver et où un groupe d'agents IA réalise les preuves.
- Les agents ont généré plus de six millions de lignes de Lean pour prouver les propriétés de sécurité de l'implémentation du protocole cryptographique de Signal.
- La revue humaine n'a porté que sur un pour cent de la base de code, Lean vérifiant automatiquement le reste.
- Le processus de vérification a pris quatre semaines, une tâche qui prend historiquement des années à des équipes d'experts.
Pour les constructeurs d'IA, cela montre qu'un cadre multi-agents associé à la vérification automatique de Lean peut étendre la vérification formelle du niveau de la conception au code compilé réel, tout en concentrant la revue humaine sur ...
Lancement du benchmark Multimodal Knowledge Agent
Google lance le benchmark Multimodal Knowledge Agent pour mesurer la performance des modèles sur des tâches spécifiques.
- Le benchmark s'intitule Multimodal Knowledge Agent benchmark.
- La source est blog.google.
- Le résumé de l'article indique qu'il propose ou utilise une nouvelle évaluation de type benchmark pour mesurer la performance des modèles sur des tâches spécifiques.
Les développeurs d'IA peuvent utiliser ce benchmark pour évaluer les agents de connaissances multimodaux sur des tâches spécifiques.
OpenRouter accueille Baidu ERNIE-Light-DT-1.0
ERNIE-Light-DT-1.0 s'appuie sur des modèles GLM open source et intègre les résultats de recherche du grand modèle Lightning de Baidu Search, avec Baidu Sparse Attention (BSA) et une compression d'historique pilotée par retour pour réduire le stockage du cache KV et le coût de calcul.
- La fenêtre de contexte est de 1 024 000 tokens, avec jusqu'à 131 072 tokens de complétion.
- Tarifs : 1,13 $ par million de tokens en entrée et 3,94 $ en sortie, lecture du cache à 0,113 $ par million de tokens.
- Hébergé par un seul fournisseur, Baidu Qianfan, avec un débit de 83 tok/s, une latence de 1,05 s et une disponibilité de 100,00 % sur 3 jours.
- Prend en charge l'appel de fonctions via tools et tool_choice, ainsi que les sorties structurées via un schéma JSON dans response_format.
Pour les équipes qui exploitent des contextes d'un million de tokens, BSA et la compression d'historique sont les mécanismes à évaluer sur des charges réelles où le coût du cache KV domine.
Nouveau modèle OpenRouter : Thinking Machines Inkling 2 Small (gratuit)
Inkling 2 Small est un modèle de raisonnement multimodal à mélange d'experts de Thinking Machines Lab, avec 17B de paramètres actifs sur 594B au total, et le premier modèle de la deuxième génération Inkling. Il a été entraîné par apprentissage par renforcement sur des tâches de codage de longue durée dans de nombreux a...
- 17B de paramètres actifs sur 594B au total.
- Fenêtre de contexte de 1 048 576 tokens, avec jusqu'à 131 072 tokens de complétion.
- Accepte du texte et des images en entrée et renvoie du texte ; pas de prise en charge audio.
- Le point d'accès gratuit n'est utilisable qu'avec des agent harnesses, et les prompts et sorties sont journalisés et utilisés pour améliorer les modèles de Thinking Machines Lab.
Les développeurs disposent d'un moyen gratuit de tester un modèle de codage agentique à contexte de 1M, mais les conditions de journalisation du point d'accès gratuit impliquent de ne pas y envoyer de données confidentielles ou personnelles...
RL-ATTACK : une attaque adversariale en boîte noire généralisée sur les modèles de langue via l'apprentissage par renforcement
L'article propose un cadre d'apprentissage par renforcement en boîte noire entraînable qui apprend du modèle cible pour générer des transformations adverses sur mesure, au lieu de deviner les transformations à partir de connaissances externes. Il rapporte une précision post-attaque plus faible, une meilleure efficacité...
- Sur l'inférence en langue naturelle, l'article rapporte une précision post-attaque ramenée à 2 % en 20 requêtes.
- Contre les modèles de langue génératifs, l'attaquant entraîné obtient systématiquement une précision post-attaque plus faible que l'attaquant non entraîné.
- Comparé à une forte référence basée sur l'optimisation, l'article rapporte une victoire dans 4 des 6 configurations.
- L'article teste plusieurs conceptions de récompense et configurations d'entraînement et ne trouve aucune conception ni configuration systématiquement dominante.
Pour les constructeurs d'IA, cela indique que des attaquants en boîte noire peuvent être entraînés à partir des signaux du modèle cible pour exposer des vulnérabilités avec moins de requêtes lors de l'évaluation de sûreté.
Obsidian Security lance un moteur de politiques d'exécution pour contrôler les actions des agents IA
Obsidian Security a lancé un moteur de politiques d'exécution pour contrôler les actions des agents IA. Ce lancement a été rapporté par Unite.AI.
- Obsidian Security a lancé un moteur de politiques d'exécution pour contrôler les actions des agents IA.
- Ce lancement a été rapporté par Unite.AI.
Pour les développeurs d'agents IA, l'application de politiques à l'exécution signifie que les actions des agents peuvent être encadrées au moment de l'exécution plutôt qu'en s'appuyant uniquement sur une configuration statique avant déploie...