AI FRONTIER
Signals worth understanding before they become obvious.
Beweisbasiertes Allzweck-Computing mit Magnetar
Microsoft Research stellt Magnetar vor, eine universelle Zero-Knowledge-Virtual Machine (zkVM), die die Ausführung von in Rust, Go oder C geschriebenen RISC-V-Programmen beweist, wobei die Sicherheit nur auf Standard-Hashfunktionen beruht.
- Magnetar beweist auf einem Laptop 7,2 bis 8,7 Millionen Prozessoranweisungen pro Sekunde.
- Ein optimiertes Magnetar beweist 9,5 bis 12,8 Millionen Zyklen pro Sekunde, was jede berichtete Beschleunigung um etwa das 1,3-Fache erhöht, und seine Beweise werden in etwa 12 Millisekunden verifiziert.
Für KI-Entwickler macht Magnetar gewöhnliche kompilierte Programme ohne Kryptografie-Kenntnisse beweisbar und entfernt eine Post-Quanten-Migration aus der Roadmap.
Großmodell „Shusheng-S2“ des Shanghai AI Lab tritt in den Prozess der mathematischen Spitzenforschung ein: unterstützt den Beweis der dreidimensionalen Ghys-Vermutung und besteht d...
Das Großmodell „Shusheng-S2“ des Shanghai AI Lab ist in einen Prozess der mathematischen Spitzenforschung eingetreten und unterstützte den Beweis der dreidimensionalen Ghys-Vermutung, der die formale Verifikation bestand.
- Das Großmodell „Shusheng-S2“ des Shanghai AI Lab ist in einen Prozess der mathematischen Spitzenforschung eingetreten.
- Das Modell unterstützte den Beweis der dreidimensionalen Ghys-Vermutung.
- Der zugehörige Beweis bestand die formale Verifikation.
Dies zeigt, dass ein Großmodell an einem mathematischen Spitzenbeweis mitwirken und ein formal verifizierbares Ergebnis liefern kann, was ein verifizierbares Prozessbeispiel für KI-gestützte Mathematikforschung bietet.
OpenRouter führt NVIDIA Nemotron 3.5 Super VL ein, multimodales MoE-Modell
NVIDIA Nemotron 3.5 Super VL ist ein offenes multimodales Mixture-of-Experts-Modell mit 12B aktiven Parametern bei 120B Gesamtparametern, basierend auf einer hybriden Mamba-Transformer-Architektur mit Multi-Token-Vorhersage und 1M-Token-Kontext.
- 120B Gesamtparameter bei 12B aktiven Parametern, basierend auf einer hybriden Mamba-Transformer-Architektur mit Multi-Token-Vorhersage.
- Kontextfenster von 1.048.576 Tokens, mit Unterstützung für bis zu 262.144 Completion-Tokens.
- Akzeptiert Text, Bilder, Dokumente, GUI-Screenshots und Video als Eingabe und gibt Text aus; Reasoning ist standardmäßig aktiviert und kann deaktiviert oder mit einem Token-Budget versehen werden.
- Preis von 0,10 $ pro 1M Eingabe-Tokens und 0,40 $ pro 1M Ausgabe-Tokens, Cache-Lesevorgänge zu 0,08 $/M, bereitgestellt von Crusoe, Together, DeepInfra und CoreWeave.
Für Teams, die lang laufende Agenten bauen, ermöglichen 12B aktive Parameter mit 1M-Token-Kontext und visueller Eingabe Dokumentenanalyse, GUI-Interaktion und Videoverständnis in einem einzigen Modell statt in getrennten Vision- und Text-Pi...
Joint Subspace Sparse Attention für effizientes Long-Context-Decoding
JSSA lernt einen gemeinsamen niedrigdimensionalen Query-Key-Unterraum, um das Ranking der Token-Level-Sparse-Auswahl zu verbessern, und führt einen gather-freien token-level Indexed-Attention-Kernel ein, der unterschiedliche Auswahlen pro KV-Head im standardmäßigen GQA-KV-Cache-Layout unterstützt.
- Die Arbeit berichtet, dass JSSA auf einer NVIDIA B200 GPU bei 128K Kontext bis zu 6,43-mal den Decoding-Durchsatz von Full-KV-Attention erreicht.
- Die Arbeit gibt an, dass JSSA bei Standard-GQA-, hybriden Sliding-Window/Global-Attention- und Multi-head Latent Attention (MLA)-Modellen nahe an der Full-KV-Genauigkeit bleibt.
- Die Arbeit berichtet, dass JSSA ohne Modelltraining eine Reasoning-Genauigkeit vergleichbar mit modellnativem DSA erreicht und selbst bei großen Modellen im 700B-Maßstab 96–99 % von dessen Decoding-Durchsatz erzielt.
- Die Arbeit merkt an, dass eine direkte Verfeinerung des exakten Ziels in den getesteten Einstellungen keine messbare Verbesserung bringt.
Für Entwickler von Long-Context-Inferenz ist JSSA relevant, weil es Token-Level-Sparse-Auswahl mit einem gather-freien Kernel kombiniert, der die Decoding-Kosten direkt auf bestehenden GQA- und MLA-KV-Cache-Layouts senkt.
WorldMemBench: Ein umfassender Benchmark für das Gedächtnis von Video-Weltmodellen
Die Arbeit stellt WorldMemBench vor, einen Benchmark, der das Weltgedächtnis von Video-Weltmodellen systematisch über 260 Testfälle bewertet und statisches Gedächtnis (menschliche Identität und Erscheinung, Objekterscheinung und -geometrie, Umgebungsinhalt und -geometrie) sowie dynamisches Gedächtnis (Ereignisverlauf u...
- Der Benchmark umfasst 260 Testfälle zur Bewertung von statischem und dynamischem Gedächtnis.
- Er nutzt kontrollierte Kameraabgänge und Trajektorien mit mehrfachen Wiederbesuchen und vergleicht statische Inhalte mit festen Anfangsreferenzen sowie dynamische Ereignisse mit erwarteten Zustandsübergängen.
- Die Bewertung von neun repräsentativen Modellen zeigt, dass starke statische Retention keine zuverlässige dynamische Zustandsentwicklung impliziert.
- Wiederholte Wiederbesuche zeigen Gedächtnisverschlechterung über die erste Rückkehr hinaus, und Humanstudien stützen die Übereinstimmung zwischen den automatischen Bewertungen und menschlichen Urteilen.
Für Teams, die Video-Weltmodelle entwickeln, zerlegt dieser Benchmark Gedächtnis in messbare statische und dynamische Achsen und zeigt, dass statische Retention die Zustandspersistenz bei wiederholten Wiederbesuchen nicht ersetzt.
Ähnliche Modelle, gebrochene Quoten: Wo Luces Axiom in der Chatbot Arena scheitert
Die Arbeit argumentiert, dass das Bradley-Terry-Modell der Chatbot Arena jedem Modell einen einzigen Score gibt und damit Luces Wahlaxiom annimmt; bei 1,8 Millionen Arena-Stimmen sind Stimmen zwischen Versionen eines Modells entscheidender als von Bradley-Terry vorhergesagt.
- Bei 1,8 Millionen Arena-Stimmen sind Stimmen zwischen Versionen eines Modells 1,37-mal so entscheidend wie von Bradley-Terry vorhergesagt.
- Zwischen Größen einer Generation liegt der Multiplikator bei 1,26, zwischen Modellen eines Labors bei 1,12.
- Eine Korrektur mit vier bis sechs Parametern sagt zurückgehaltene Stimmen besser voraus als Bradley-Terry und als Modelle mit Hunderten von Parametern, vor allem durch die Modellierung von Gleichständen.
Für Entwickler bedeutet dies, dass Arena-artige paarweise Gewinnraten zwischen fast identischen Modellen systematisch überschätzt werden können, weshalb Single-Score-Rankings ähnlicher Modelle vorsichtig zu lesen sind.
fishaudio/drama-3: ein 35B-Parameter-MoE-Text-to-Speech-Modell mit 16 Sprechern und Streaming
Fish Audio hat Drama 3 veröffentlicht, ein Text-to-Speech-Modell der neuen Generation für Mehrpersonen-Szenen und Langinhalte, das Mehrsprecher-Generierung, Stimmklonen und Steuerung per natürlicher Sprache unterstützt. Es nutzt ein MoE-Text-Backbone mit 35B Parametern und 3B aktiven Parametern pro Token sowie einen Co...
- 35B Parameter mit 3B aktiven Parametern pro Token, auf einem MoE-Text-Backbone mit hybrider voller und linearer Attention.
- Sprecher-Tags <|speaker:0|> bis <|speaker:15|> lassen einen Text bis zu 16 Charaktere tragen.
- Der Codebook-MTP-Audiodecoder dekodiert 10 Codebooks kausal über die gesamte Sequenz.
- MoE-Experten laufen in FP8, die übrigen Gewichte in bf16; die Modellseite nennt 36B Parameter und die Tensortypen BF16 und F8_E4M3.
Für Entwickler, die mehrpersonige Lang-Audioinhalte brauchen, bündelt Drama 3 16 Sprecher-Tags, Streaming-Chunking und SGLang-Omni-Deployment, doch forschungsorientierte Lizenz und FP8-MoE-Hardwareanforderungen bestimmen den Einsatzrahmen.