AI FRONTIER
Signals worth understanding before they become obvious.
حوسبة عامة الأغراض قائمة على الإثبات مع Magnetar
تقدم Microsoft Research نظام Magnetar، وهو آلة افتراضية معرفية صفرية (zkVM) عامة الأغراض تثبت تنفيذ برامج RISC-V المكتوبة بلغات Rust أو Go أو C، مع اعتماد الأمان فقط على دوال التجزئة القياسية.
- يثبت Magnetar من 7.2 إلى 8.7 مليون تعليمة معالج في الثانية على حاسوب محمول.
- عبر 15 برنامج اختبار، تذكر الورقة أنه أسرع بمتوسط 10 إلى 39 مرة من أسرع أنظمة zkVM الموجودة على الجهاز نفسه، وأكثر من 300 مرة أسرع من نظامين آخرين في اختبار نقل الرموز.
- يثبت Magnetar المحسّن من 9.5 إلى 12.8 مليون دورة في الثانية، ما يزيد كل تسريع مذكور بنحو 1.3 مرة، وتُتحقق إثباتاته في نحو 12 مللي ثانية.
- يعتمد أمانه فقط على دالة تجزئة قياسية مثل SHA-256 أو SHA-3، دون منحنيات إهليلجية أو شبكيات أو دوال تجزئة متخصصة أو إعداد موثوق أو تخمين غير مثبت حول رموز تصحيح الأخطاء.
بالنسبة لبناة الذكاء الاصطناعي، يجعل Magnetar البرامج المترجمة العادية قابلة للإثبات دون خبرة تشفيرية ويزيل هجرة ما بعد الكم من خارطة الطريق.
نموذج «Shusheng-S2» الكبير من Shanghai AI Lab يدخل مسار البحث الرياضي المتقدم: يساعد في إثبات حدسية Ghys ثلاثية الأبعاد ويجتاز التحقق الشكلي
دخل نموذج «Shusheng-S2» الكبير من Shanghai AI Lab في مسار البحث الرياضي المتقدم، وساعد في إثبات حدسية Ghys ثلاثية الأبعاد، وقد اجتاز الإثبات التحقق الشكلي.
- دخل نموذج «Shusheng-S2» الكبير من Shanghai AI Lab في مسار البحث الرياضي المتقدم.
- ساعد النموذج في إثبات حدسية Ghys ثلاثية الأبعاد.
- اجتاز الإثبات المرتبط التحقق الشكلي.
يوضح هذا أن نموذجًا كبيرًا يمكنه المشاركة في إثبات رياضي متقدم وإنتاج نتيجة قابلة للتحقق الشكلي، ما يوفر مثالًا لمسار قابل للتحقق في البحث الرياضي المدعوم بالذكاء الاصطناعي.
OpenRouter يضيف نموذج NVIDIA Nemotron 3.5 Super VL متعدد الوسائط من نوع MoE
NVIDIA Nemotron 3.5 Super VL هو نموذج MoE متعدد الوسائط مفتوح يضم 12B معامل نشط من إجمالي 120B، ويعتمد على معمارية هجينة Mamba-Transformer مع التنبؤ متعدد الرموز وسياق يبلغ 1M رمز.
- إجمالي 120B معامل مع 12B نشط، على معمارية هجينة Mamba-Transformer مع التنبؤ متعدد الرموز.
- نافذة سياق تبلغ 1,048,576 رمزًا، وتدعم حتى 262,144 رمز إكمال.
- يقبل النص والصور والمستندات ولقطات شاشة GUI والفيديو كمدخلات ويعيد النص؛ الاستدلال مفعّل افتراضيًا ويمكن إيقافه أو تحديد ميزانية رموز له.
- السعر 0.10 دولار لكل 1M رمز إدخال و0.40 دولار لكل 1M رمز إخراج، مع قراءة الذاكرة المؤقتة بسعر 0.08 دولار/M، ويقدمه Crusoe وTogether وDeepInfra وCoreWeave.
بالنسبة للفرق التي تبني وكلاء طويلي التشغيل، يتيح 12B معامل نشط مع سياق 1M رمز ومدخلات بصرية معالجة ذكاء المستندات والتفاعل مع GUI وفهم الفيديو في نموذج واحد.
Joint Subspace Sparse Attention لفك ترميز فعّال في السياق الطويل
يتعلّم JSSA فضاءً فرعيًا مشتركًا منخفض الأبعاد لـ query-key لتحسين جودة ترتيب الاختيار المتناثر على مستوى الرمز، ويقدّم نواة indexed-attention على مستوى الرمز دون gather تدعم اختيارات مختلفة لكل رأس KV ضمن تخطيط KV-cache القياسي لـ GQA.
- تذكر الورقة أن JSSA على وحدة GPU من نوع NVIDIA B200 يحقق ما يصل إلى 6.43 ضعف إنتاجية فك الترميز مقارنة بـ full-KV attention عند سياق 128K.
- تذكر الورقة أن JSSA يبقى قريبًا من دقة full-KV عبر نماذج GQA القياسية والانتباه الهجين sliding-window/global وMulti-head Latent Attention (MLA).
- تذكر الورقة أن JSSA يحقق دقة استدلال مماثلة لـ DSA الأصلي في النموذج دون تدريب النموذج ويصل إلى 96–99% من إنتاجية فك الترميز الخاصة به حتى في النماذج الكبيرة بمقياس 700B.
- تشير الورقة إلى أن التحسين المباشر للهدف الدقيق لا يوفّر تحسنًا قابلًا للقياس في الإعدادات المختبرة.
بالنسبة لمن يبنون استدلال السياق الطويل، يهم JSSA لأنه يقرن الاختيار المتناثر على مستوى الرمز بنواة دون gather تخفض كلفة فك الترميز مباشرة على تخطيطات KV-cache الحالية لـ GQA وMLA.
WorldMemBench: معيار شامل لقياس ذاكرة نماذج العالم بالفيديو
تقدم الورقة WorldMemBench، وهو معيار يقيس بشكل منهجي ذاكرة العالم في نماذج العالم بالفيديو عبر 260 حالة اختبار، ويغطي الذاكرة الساكنة (هوية الإنسان ومظهره، ومظهر الأشياء وهندستها، ومحتوى البيئة وهندستها) والذاكرة الديناميكية (تقدم الأحداث واستمرار الحالات).
- يشمل المعيار 260 حالة اختبار لتقييم الذاكرة الساكنة والديناميكية.
- يستخدم خروج الكاميرا المتحكم به ومسارات إعادة الزيارة المتعددة، ويقارن المحتوى الساكن بمراجع أولية ثابتة والأحداث الديناميكية بانتقالات الحالة المتوقعة.
- أظهر تقييم تسعة نماذج تمثيلية أن قوة الاحتفاظ الساكن لا تعني تطورًا ديناميكيًا موثوقًا للحالات.
- تكشف إعادات الزيارة المتكررة تدهور الذاكرة بعد العودة الأولى، وتدعم الدراسات البشرية التوافق بين التقييمات الآلية والأحكام البشرية.
بالنسبة للفرق التي تبني نماذج العالم بالفيديو، يفصل هذا المعيار الذاكرة إلى محورين ساكن وديناميكي قابلين للقياس، ويُظهر أن الاحتفاظ الساكن لا يغني عن استمرار الحالات عبر إعادات الزيارة المتكررة.
نماذج متشابهة واحتمالات مكسورة: أين تفشل مسلمة Luce في Chatbot Arena
ترى الورقة أن نموذج Bradley-Terry في Chatbot Arena يمنح كل نموذج درجة واحدة وبالتالي يفترض مسلمة الاختيار Luce؛ وعلى 1.8 مليون صوت في Arena، تكون الأصوات بين إصدارات النموذج نفسه أكثر حسمًا مما يتوقعه Bradley-Terry.
- على 1.8 مليون صوت في Arena، الأصوات بين إصدارات النموذج نفسه أكثر حسمًا بمقدار 1.37 مرة مما يتوقعه Bradley-Terry.
- بين أحجام الجيل نفسه يبلغ المضاعف 1.26، وبين نماذج المختبر نفسه 1.12.
- تصحيح بأربعة إلى ستة معاملات يتنبأ بأصوات محجوزة أفضل من Bradley-Terry ومن نماذج بمئات المعاملات، وذلك أساسًا بنمذجة التعادلات.
- مع حكام من نماذج لغوية وقوائم من ثلاث إجابات، يأخذ النموذج شبه المطابق أصواتًا في الغالب من توأمه عند تجميع الاختيارات عبر المطالبات، مع إزاحة لوغاريتم الأرجحية +0.10 وفاصل ثقة 95% من 0.05 إلى 0.16.
بالنسبة للبنّائين، يعني هذا أن معدلات الفوز الثنائية على طريقة Arena بين النماذج شبه المطابقة قد تُبالغ فيها بشكل منهجي، لذا ينبغي قراءة ترتيبات الدرجة الواحدة للنماذج المتشابهة بحذر.
fishaudio/drama-3: نموذج تحويل النص إلى كلام MoE بـ35B معلمة و16 متحدثًا والبث المتدفق
أصدرت Fish Audio نموذج Drama 3، وهو نموذج تحويل النص إلى كلام من الجيل الجديد مصمم لمشاهد متعددة الشخصيات والمحتوى الطويل، ويدعم توليد عدة متحدثين واستنساخ الصوت والتحكم باللغة الطبيعية. يعتمد على عمود فقري نصي MoE بـ35B معلمة مع 3B نشطة لكل رمز، ومفكك صوتي Codebook-MTP.
- 35B معلمة مع 3B نشطة لكل رمز، على عمود فقري نصي MoE بانتباه هجين كامل وخطي.
- وسوم المتحدثين من <|speaker:0|> إلى <|speaker:15|> تتيح لنص واحد حمل ما يصل إلى 16 شخصية.
- مفكك الصوت Codebook-MTP يفك ترميز 10 دفاتر رموز بشكل سببي على كامل التسلسل.
- خبراء MoE بصيغة FP8 وبقية الأوزان بصيغة bf16؛ وتذكر صفحة النموذج 36B معلمة وأنواع الموترات BF16 وF8_E4M3.
لمن يحتاج إلى صوت طويل متعدد الشخصيات، يجمع Drama 3 بين 16 وسم متحدث وتقسيم البث المتدفق ونشر SGLang-Omni، لكن الترخيص البحثي ومتطلبات عتاد MoE بصيغة FP8 يحددان نطاق استخدامه في الإنتاج.