AI FRONTIER
Signals worth understanding before they become obvious.
AlphaProof Code vorgestellt: ein Durchbruch bei der tiefgehenden Verifikation komplexer Software
Forscher von Google DeepMind nutzten das agentische Framework AlphaProof Code, um zentrale Sicherheitseigenschaften des tatsächlichen Codes des Signal-Protokolls formal zu verifizieren; die Agenten erzeugten über sechs Millionen Zeilen Lean.
- AlphaProof Code ist ein agentisches Multi-LLM-Framework, in dem menschliche Experten mit KI entscheiden, was bewiesen werden soll, und eine Gruppe von KI-Agenten die Beweise erbringt.
- Die Agenten erzeugten über sechs Millionen Zeilen Lean, um Sicherheitseigenschaften der Implementierung von Signals kryptografischem Protokoll zu beweisen.
- Die menschliche Prüfung betraf nur ein Prozent der Codebasis, der Rest wurde automatisch von Lean geprüft.
- Der Verifikationsprozess dauerte vier Wochen, eine Aufgabe, die historisch Jahre für Expertenteams in Anspruch nimmt.
Für KI-Entwickler zeigt dies, dass Multi-Agenten-Beweisführung zusammen mit der automatischen Prüfung durch Lean die formale Verifikation von der Designebene bis auf kompilierten Produktionscode ausdehnen kann, während die menschliche Prüfu...
Einführung des Multimodal Knowledge Agent Benchmarks
Google führt den Multimodal Knowledge Agent Benchmark ein, um die Modellleistung bei bestimmten Aufgaben zu messen.
- Der Benchmark heißt Multimodal Knowledge Agent benchmark.
- Die Quelle ist blog.google.
- Die Zusammenfassung der Arbeit gibt an, dass sie eine neue Benchmark-Evaluierung vorschlägt oder verwendet, um die Modellleistung bei bestimmten Aufgaben zu messen.
KI-Entwickler können mit diesem Benchmark multimodale Wissensagenten bei bestimmten Aufgaben bewerten.
OpenRouter führt Baidu ERNIE-Light-DT-1.0 ein
ERNIE-Light-DT-1.0 basiert auf Open-Source-GLM-Modellen und integriert Forschungsergebnisse des Lightning-Großmodells von Baidu Search; es nutzt Baidu Sparse Attention (BSA) sowie feedback-getriebene Verlaufskompression, um KV-Cache-Speicher und Rechenkosten zu senken.
- Das Kontextfenster beträgt 1.024.000 Tokens bei bis zu 131.072 Completion-Tokens.
- Der Preis liegt bei 1,13 $ pro 1 Mio. Input-Tokens und 3,94 $ pro 1 Mio. Output-Tokens, Cache-Reads kosten 0,113 $ pro 1 Mio. Tokens.
- Gehostet wird es von einem einzigen Anbieter, Baidu Qianfan, mit 83 tok/s Durchsatz, 1,05 s Latenz und 100,00 % Uptime über 3 Tage.
- Unterstützt Funktionsaufrufe über tools und tool_choice sowie strukturierte Ausgaben über ein JSON-Schema in response_format.
Für Entwickler mit Million-Token-Kontexten sind BSA und die Verlaufskompression die Hebel, die gegen reale Langdokument- und Langsitzungs-Workloads getestet werden sollten, in denen KV-Cache-Kosten dominieren.
Neues OpenRouter-Modell: Thinking Machines Inkling 2 Small (kostenlos)
Inkling 2 Small ist ein multimodales Mixture-of-Experts-Reasoning-Modell von Thinking Machines Lab mit 17B aktiven Parametern bei 594B Gesamtparametern und das erste Modell der zweiten Inkling-Generation. Es wurde mit Reinforcement Learning auf langfristigen Coding-Aufgaben über viele Agent-Harnesses hinweg trainiert, ...
- 17B aktive Parameter bei 594B Gesamtparametern.
- Kontextfenster von 1.048.576 Token mit bis zu 131.072 Completion-Token.
- Akzeptiert Text- und Bildeingaben und gibt Text aus; keine Audio-Unterstützung.
- Der kostenlose Endpunkt ist nur für die Nutzung mit Agent-Harnesses verfügbar, und Prompts sowie Ausgaben werden protokolliert und zur Verbesserung der Modelle von Thinking Machines Lab verwendet.
Entwickler können ein agentisches Coding-Modell mit 1M-Kontext kostenlos testen, doch die Protokollierungsbedingungen des kostenlosen Endpunkts bedeuten, dass keine vertraulichen oder personenbezogenen Daten dorthin gesendet werden sollten.
RL-ATTACK: Ein generalisierter Black-Box-Adversarial-Angriff auf Sprachmodelle mittels Reinforcement Learning
Die Arbeit schlägt ein trainierbares Black-Box-Framework auf Basis von Reinforcement Learning vor, das vom Zielmodell lernt, maßgeschneiderte adversariale Transformationen zu erzeugen, statt Transformationen aus externem Wissen zu erraten. Sie berichtet niedrigere Genauigkeit nach dem Angriff, höhere Query-Effizienz un...
- Bei Natural Language Inference berichtet die Arbeit, die Genauigkeit nach dem Angriff innerhalb von 20 Queries auf 2 % zu senken.
- Gegen generative Sprachmodelle erreicht der trainierte Angreifer durchgängig eine niedrigere Genauigkeit nach dem Angriff als der untrainierte Angreifer.
- Im Vergleich zu einer starken optimierungsbasierten Baseline berichtet die Arbeit von Siegen in 4 von 6 Einstellungen.
- Die Arbeit testet mehrere Reward-Designs und Trainings-Einstellungen und findet kein durchgängig dominantes Design oder Setting.
Für KI-Entwickler bedeutet dies, dass Black-Box-Angreifer aus den Signalen des Zielmodells trainiert werden können, um Schwachstellen mit weniger Queries für die Sicherheitsbewertung aufzudecken.
Obsidian Security startet Runtime-Policy-Engine zur Kontrolle von KI-Agent-Aktionen
Obsidian Security hat eine Runtime-Policy-Engine zur Kontrolle von KI-Agent-Aktionen gestartet. Der Start wurde von Unite.AI berichtet.
- Obsidian Security hat eine Runtime-Policy-Engine zur Kontrolle von KI-Agent-Aktionen gestartet.
- Der Start wurde von Unite.AI berichtet.
Für Entwickler von KI-Agenten bedeutet Runtime-Policy-Durchsetzung, dass Agent-Aktionen zur Ausführungszeit eingeschränkt werden können, statt sich nur auf statische Konfiguration vor dem Deployment zu verlassen.