AI FRONTIER
Signals worth understanding before they become obvious.
Magnetar के साथ प्रमाण-आधारित सामान्य-उद्देश्य कंप्यूटिंग
Microsoft Research ने Magnetar पेश किया है, एक सामान्य-उद्देश्य ज़ीरो-नॉलेज वर्चुअल मशीन (zkVM) जो Rust, Go या C में लिखे RISC-V प्रोग्रामों के निष्पादन को प्रमाणित करती है, और इसकी सुरक्षा केवल मानक हैश फ़ंक्शनों पर टिकी है।
- Magnetar एक लैपटॉप पर प्रति सेकंड 7.2 से 8.7 मिलियन प्रोसेसर निर्देश प्रमाणित करता है।
- 15 बेंचमार्क प्रोग्रामों में, पेपर रिपोर्ट करता है कि यह उसी मशीन पर सबसे तेज़ मौजूदा zkVMs से औसतन 10 से 39 गुना तेज़ है, और टोकन-ट्रांसफर बेंचमार्क पर दो अन्य से 300 गुना से अधिक तेज़ है।
- एक अनुकूलित Magnetar प्रति सेकंड 9.5 से 12.8 मिलियन साइकल प्रमाणित करता है, जो यहाँ बताई गई प्रत्येक गति वृद्धि को लगभग 1.3 गुना बढ़ाता है, और इसके प्रमाण लगभग 12 मिलीसेकंड में सत्यापित होते हैं।
- इसकी सुरक्षा केवल SHA-256 या SHA-3 जैसे मानक हैश फ़ंक्शन पर निर्भर करती है, जिसमें कोई एलिप्टिक कर्व, लैटिस, विशेष-उद्देश्य हैश फ़ंक्शन, ट्रस्टेड सेटअप या त्रुटि-सुधारक कोड की अप्रमाणित परिकल्पना की आवश्यकता नहीं है।
AI निर्माताओं के लिए, Magnetar सामान्य कंपाइल किए गए प्रोग्रामों को क्रिप्टोग्राफ़िक विशेषज्ञता के बिना प्रमाणित करने योग्य बनाता है और रोडमैप से पोस्ट-क्वांटम माइग्रेशन हटा देता है।
शंघाई AI लैब का "शुशेंग-S2" बड़ा मॉडल अत्याधुनिक गणितीय शोध प्रक्रिया में शामिल: त्रि-आयामी Ghys अनुमान के प्रमाण में सहायता और औपचारिक सत्यापन पास
शंघाई AI लैब का "शुशेंग-S2" बड़ा मॉडल एक अत्याधुनिक गणितीय शोध प्रक्रिया में शामिल हुआ, जिसने त्रि-आयामी Ghys अनुमान के प्रमाण में सहायता की और वह औपचारिक सत्यापन से पास हुआ।
- शंघाई AI लैब का "शुशेंग-S2" बड़ा मॉडल एक अत्याधुनिक गणितीय शोध प्रक्रिया में शामिल हुआ।
- मॉडल ने त्रि-आयामी Ghys अनुमान के प्रमाण में सहायता की।
- संबंधित प्रमाण औपचारिक सत्यापन से पास हुआ।
यह दर्शाता है कि एक बड़ा मॉडल अत्याधुनिक गणितीय प्रमाण में भाग लेकर औपचारिक रूप से सत्यापन-योग्य परिणाम दे सकता है, जो AI-सहायित गणितीय शोध के लिए एक सत्यापन-योग्य प्रक्रिया उदाहरण है।
OpenRouter पर NVIDIA Nemotron 3.5 Super VL मल्टीमॉडल MoE मॉडल उपलब्ध
NVIDIA Nemotron 3.5 Super VL एक ओपन मल्टीमॉडल मिक्सचर-ऑफ-एक्सपर्ट्स मॉडल है जिसमें कुल 120B में से 12B सक्रिय पैरामीटर हैं, और यह हाइब्रिड Mamba-Transformer आर्किटेक्चर, मल्टी-टोकन प्रेडिक्शन तथा 1M टोकन कॉन्टेक्स्ट पर आधारित है।
- कुल 120B पैरामीटर, जिनमें 12B सक्रिय, हाइब्रिड Mamba-Transformer आर्किटेक्चर और मल्टी-टोकन प्रेडिक्शन के साथ।
- कॉन्टेक्स्ट विंडो 1,048,576 टोकन है और अधिकतम 262,144 कम्प्लीशन टोकन समर्थित हैं।
- इनपुट में टेक्स्ट, इमेज, दस्तावेज़, GUI स्क्रीनशॉट और वीडियो स्वीकार करता है तथा टेक्स्ट लौटाता है; रीज़निंग डिफ़ॉल्ट रूप से चालू है और इसे बंद या टोकन बजट के साथ सीमित किया जा सकता है।
- OpenRouter पर कीमत प्रति 1M इनपुट टोकन $0.10 और प्रति 1M आउटपुट टोकन $0.40 है, कैश रीड $0.08/M, और इसे Crusoe, Together, DeepInfra तथा CoreWeave सेवा देते हैं।
लंबे समय तक चलने वाले एजेंट बनाने वाली टीमों के लिए 12B सक्रिय पैरामीटर, 1M टोकन कॉन्टेक्स्ट और विज़ुअल इनपुट एक ही मॉडल में दस्तावेज़ इंटेलिजेंस, GUI इंटरैक्शन और वीडियो समझ को संभव बनाते हैं।
कुशल लॉन्ग-कॉन्टेक्स्ट डिकोडिंग के लिए Joint Subspace Sparse Attention
JSSA टोकन-स्तरीय स्पार्स चयन की रैंकिंग गुणवत्ता सुधारने के लिए एक साझा निम्न-आयामी query-key सबस्पेस सीखता है, और मानक GQA KV-cache लेआउट के तहत प्रत्येक KV हेड के लिए अलग चयन समर्थित करने वाला gather-रहित टोकन-स्तरीय indexed-attention कर्नेल पेश करता है।
- पेपर रिपोर्ट करता है कि NVIDIA B200 GPU पर, 128K कॉन्टेक्स्ट पर JSSA full-KV attention की तुलना में डिकोडिंग थ्रूपुट का अधिकतम 6.43 गुना प्राप्त करता है।
- पेपर बताता है कि JSSA मानक GQA, हाइब्रिड sliding-window/global attention और Multi-head Latent Attention (MLA) मॉडलों में full-KV सटीकता के करीब रहता है।
- पेपर रिपोर्ट करता है कि JSSA मॉडल ट्रेनिंग के बिना मॉडल-नेटिव DSA के बराबर रीज़निंग सटीकता प्राप्त करता है और 700B स्केल के बड़े मॉडलों पर भी उसके डिकोडिंग थ्रूपुट का 96–99% तक पहुंचता है।
- पेपर नोट करता है कि सटीक उद्देश्य का सीधा परिष्करण परीक्षण की गई सेटिंग्स में कोई मापनीय सुधार नहीं देता।
लॉन्ग-कॉन्टेक्स्ट इन्फरेंस बनाने वालों के लिए JSSA इसलिए मायने रखता है क्योंकि यह टोकन-स्तरीय स्पार्स चयन को gather-रहित कर्नेल के साथ जोड़ता है, जो मौजूदा GQA और MLA KV-cache लेआउट पर डिकोडिंग लागत सीधे घटाता है।
WorldMemBench: वीडियो वर्ल्ड मॉडल की मेमोरी के लिए एक व्यापक बेंचमार्क
पेपर WorldMemBench पेश करता है, जो 260 टेस्ट केसों पर वीडियो वर्ल्ड मॉडल की वर्ल्ड मेमोरी का व्यवस्थित मूल्यांकन करता है, जिसमें स्टैटिक मेमोरी (मानव पहचान और रूप, वस्तु का रूप और ज्यामिति, पर्यावरण की सामग्री और ज्यामिति) और डायनामिक मेमोरी (इवेंट प्रगति और स्टेट बने रहना) शामिल हैं।
- बेंचमार्क में स्टैटिक और डायनामिक मेमोरी का आकलन करने वाले 260 टेस्ट केस शामिल हैं।
- यह नियंत्रित कैमरा प्रस्थान और बहु-पुनरागमन ट्रैजेक्टरी का उपयोग करता है, स्टैटिक सामग्री की तुलना निश्चित प्रारंभिक संदर्भों से और डायनामिक इवेंट की तुलना अपेक्षित स्टेट ट्रांज़िशन से करता है।
- नौ प्रतिनिधि मॉडलों के मूल्यांकन से पता चलता है कि मजबूत स्टैटिक रिटेंशन का अर्थ विश्वसनीय डायनामिक स्टेट विकास नहीं है।
- बार-बार पुनरागमन से पहली वापसी के बाद मेमोरी में गिरावट दिखती है, और मानव अध्ययन स्वचालित मूल्यांकन तथा मानव निर्णयों के बीच तालमेल का समर्थन करते हैं।
वीडियो वर्ल्ड मॉडल बनाने वाली टीमों के लिए यह बेंचमार्क मेमोरी को मापने योग्य स्टैटिक और डायनामिक आयामों में बांटता है और दिखाता है कि स्टैटिक रिटेंशन बार-बार पुनरागमन में स्टेट बने रहने का विकल्प नहीं है।
समान मॉडल, टूटी संभावनाएँ: Chatbot Arena में Luce का अभिगृहीत कहाँ विफल होता है
पेपर तर्क देता है कि Chatbot Arena का Bradley-Terry मॉडल हर मॉडल को एक ही स्कोर देता है और इसलिए Luce के चयन अभिगृहीत को मानता है; 18 लाख Arena वोटों पर एक ही मॉडल के संस्करणों के बीच वोट Bradley-Terry के अनुमान से अधिक निर्णायक हैं।
- 18 लाख Arena वोटों पर एक ही मॉडल के संस्करणों के बीच वोट Bradley-Terry के अनुमान से 1.37 गुना अधिक निर्णायक हैं।
- एक ही पीढ़ी के आकारों के बीच गुणक 1.26 है, और एक ही लैब के मॉडलों के बीच 1.12 है।
- चार से छह पैरामीटर वाला सुधार हेल्ड-आउट वोटों की भविष्यवाणी Bradley-Terry और सैकड़ों पैरामीटर वाले मॉडलों से बेहतर करता है, मुख्यतः टाई को मॉडल करके।
- भाषा-मॉडल जजों और तीन-उत्तर मेन्यू के साथ, प्रॉम्प्ट पर विकल्प जोड़ने पर एक निकट-प्रतिलिपि मॉडल अधिकतर अपने जुड़वाँ से वोट लेता है, लॉग-ऑड्स बदलाव +0.10 और 95% अंतराल 0.05 से 0.16 है।
निर्माताओं के लिए इसका अर्थ है कि Arena-शैली के जोड़ीवार मुकाबलों में निकट-प्रतिलिपि मॉडलों के बीच जीत दर व्यवस्थित रूप से अधिक बताई जा सकती है, इसलिए समान मॉडलों की एकल-स्कोर रैंकिंग सावधानी से पढ़नी चाहिए।
fishaudio/drama-3: 35B पैरामीटर वाला MoE टेक्स्ट-टू-स्पीच मॉडल, 16 स्पीकर और स्ट्रीमिंग के साथ
Fish Audio ने Drama 3 जारी किया है, जो बहु-पात्र दृश्यों और लंबे कंटेंट के लिए बनाया गया नई पीढ़ी का टेक्स्ट-टू-स्पीच मॉडल है और मल्टी-स्पीकर जनरेशन, वॉइस क्लोनिंग तथा प्राकृतिक भाषा नियंत्रण का समर्थन करता है। इसमें 35B पैरामीटर वाला MoE टेक्स्ट बैकबोन है जिसमें प्रति टोकन 3B सक्रिय रहते हैं, साथ में Codebook-MTP ऑडिय...
- 35B पैरामीटर, प्रति टोकन 3B सक्रिय, हाइब्रिड फुल और लीनियर अटेंशन वाला MoE टेक्स्ट बैकबोन।
- <|speaker:0|> से <|speaker:15|> तक स्पीकर टैग, जिससे एक टेक्स्ट में अधिकतम 16 पात्र हो सकते हैं।
- Codebook-MTP ऑडियो डिकोडर पूरे सीक्वेंस पर 10 कोडबुक को कॉज़ल तरीके से डिकोड करता है।
- MoE एक्सपर्ट FP8 में हैं और बाकी वेट bf16 में; मॉडल पेज पर 36B पैरामीटर तथा टेंसर टाइप BF16 और F8_E4M3 दर्ज है।
बहु-पात्र लंबे ऑडियो की जरूरत वाले बिल्डरों के लिए Drama 3 में 16 स्पीकर टैग, स्ट्रीमिंग चंकिंग और SGLang-Omni डिप्लॉयमेंट एक साथ हैं, लेकिन रिसर्च-केंद्रित लाइसेंस और FP8 MoE हार्डवेयर जरूरतें इसके प्रोडक्शन उपयोग की सीमा तय करती हैं।