AI FRONTIER
Signals worth understanding before they become obvious.
تقديم AlphaProof Code: إنجاز في التحقق العميق من البرمجيات المعقدة
استخدم باحثو Google DeepMind إطار AlphaProof Code الوكيلي للتحقق رسميًا من خصائص أمنية رئيسية في الشيفرة الفعلية لبروتوكول Signal، حيث أنتج الوكلاء أكثر من ستة ملايين سطر من Lean.
- AlphaProof Code هو إطار وكيلي متعدد نماذج LLM، يتعاون فيه خبراء بشريون مع الذكاء الاصطناعي لتحديد ما يجب إثباته، بينما تنفذ مجموعة من وكلاء الذكاء الاصطناعي البراهين.
- أنتج الوكلاء أكثر من ستة ملايين سطر من Lean لإثبات الخصائص الأمنية لتطبيق بروتوكول Signal التشفيري.
- اقتصرت المراجعة البشرية على واحد بالمئة فقط من قاعدة الشيفرة، بينما تحقق Lean تلقائيًا من الباقي.
- استغرقت عملية التحقق أربعة أسابيع، وهي مهمة تستغرق تاريخيًا سنوات لدى فرق الخبراء.
بالنسبة لبناة الذكاء الاصطناعي، يُظهر هذا أن الإثبات متعدد الوكلاء مع التحقق التلقائي من Lean يمكن أن يوسّع التحقق الرسمي من مستوى التصميم إلى الشيفرة المُجمّعة الفعلية، مع تركيز المراجعة البشرية على جزء ضئيل من قاعدة الشيفرة.
إطلاق معيار Multimodal Knowledge Agent
تقدم Google معيار Multimodal Knowledge Agent لقياس أداء النماذج في مهام محددة.
- اسم المعيار هو Multimodal Knowledge Agent benchmark.
- المصدر هو blog.google.
- يشير ملخص الورقة إلى أنها تقترح أو تستخدم تقييمًا معياريًا جديدًا لقياس أداء النماذج في مهام محددة.
يمكن لمطوري الذكاء الاصطناعي استخدام هذا المعيار لتقييم وكلاء المعرفة متعددي الوسائط في مهام محددة.
OpenRouter يضيف Baidu ERNIE-Light-DT-1.0
يعتمد ERNIE-Light-DT-1.0 على نماذج GLM مفتوحة المصدر ويتضمن نتائج بحثية من النموذج الكبير Lightning التابع لـ Baidu Search، ويستخدم Baidu Sparse Attention (BSA) مع ضغط السجل القائم على التغذية الراجعة لتقليل تخزين ذاكرة KV المؤقتة وتكلفة الحوسبة.
- نافذة السياق تبلغ 1,024,000 رمز مع دعم حتى 131,072 رمز إكمال.
- السعر 1.13 دولار لكل مليون رمز إدخال و3.94 دولار لكل مليون رمز إخراج، وقراءة الذاكرة المؤقتة 0.113 دولار لكل مليون رمز.
- يستضيفه مزوّد واحد هو Baidu Qianfan، بإنتاجية 83 tok/s وزمن استجابة 1.05 ثانية ونسبة تشغيل 100.00% خلال 3 أيام.
- يدعم استدعاء الدوال عبر tools وtool_choice، والمخرجات المنظمة عبر مخطط JSON في response_format.
بالنسبة للمطورين الذين يعملون بسياق يبلغ مليون رمز، يمثل BSA وضغط السجل الآليتين الجديرتين بالاختبار على أحمال المستندات والجلسات الطويلة الفعلية حيث تهيمن تكلفة ذاكرة KV المؤقتة.
نموذج جديد على OpenRouter: Thinking Machines Inkling 2 Small (مجاني)
Inkling 2 Small هو نموذج استدلال متعدد الوسائط قائم على مزيج الخبراء من Thinking Machines Lab، بعدد 17B معامل نشط من إجمالي 594B، وهو أول نموذج في الجيل الثاني من Inkling. دُرِّب بالتعلم المعزز على مهام برمجة طويلة الأمد عبر العديد من agent harnesses، ويقبل إدخال النص والصور، ويدعم استدعاء الأدوات وجهد استدلال متغيّر، ...
- 17B معامل نشط من إجمالي 594B.
- نافذة سياق تبلغ 1,048,576 رمزًا، مع ما يصل إلى 131,072 رمز إكمال.
- يقبل إدخال النص والصور ويعيد نصًا؛ ولا يدعم الصوت.
- نقطة النهاية المجانية متاحة للاستخدام مع agentic harnesses فقط، ويُسجَّل كل من المطالبات والمخرجات ويُستخدم لتحسين نماذج Thinking Machines Lab.
يحصل المطوّرون على وسيلة بلا تكلفة لاختبار نموذج برمجة وكيلي بسياق 1M، لكن شروط التسجيل في نقطة النهاية المجانية تعني أنه لا ينبغي إرسال بيانات سرية أو شخصية إليها.
RL-ATTACK: هجوم خصومي صندوقي أسود معمَّم على نماذج اللغة عبر التعلم المعزز
تقترح الورقة إطارًا قابلًا للتدريب للتعلم المعزز في إعداد الصندوق الأسود يتعلم من النموذج الهدف لتوليد تحويلات خصومية مخصصة بدلًا من تخمين التحويلات من معرفة خارجية. وتُبلغ عن دقة أقل بعد الهجوم، وكفاءة استعلام أعلى، وحفاظ دلالي أفضل في استنتاج اللغة الطبيعية ومهام الأسئلة والأجوبة التوليدية.
- في استنتاج اللغة الطبيعية، تُبلغ الورقة عن خفض الدقة بعد الهجوم إلى 2% خلال 20 استعلامًا.
- في مواجهة نماذج اللغة التوليدية، يحقق المهاجم المدرَّب باستمرار دقة أقل بعد الهجوم من المهاجم غير المدرَّب.
- بالمقارنة مع خط أساس قوي قائم على التحسين، تُبلغ الورقة عن الفوز في 4 من أصل 6 إعدادات.
- تختبر الورقة تصاميم مكافآت وإعدادات تدريب متعددة وتجد أنه لا يوجد تصميم أو إعداد متفوق باستمرار.
بالنسبة لبناة الذكاء الاصطناعي، يشير هذا إلى إمكانية تدريب مهاجمين في إعداد الصندوق الأسود من إشارات النموذج الهدف نفسه لكشف الثغرات بعدد استعلامات أقل في تقييم السلامة.
Obsidian Security تطلق محرك سياسات وقت التشغيل للتحكم في إجراءات وكلاء الذكاء الاصطناعي
أطلقت Obsidian Security محرك سياسات وقت التشغيل للتحكم في إجراءات وكلاء الذكاء الاصطناعي. وقد أوردت Unite.AI هذا الإطلاق.
- أطلقت Obsidian Security محرك سياسات وقت التشغيل للتحكم في إجراءات وكلاء الذكاء الاصطناعي.
- أوردت Unite.AI هذا الإطلاق.
بالنسبة لمن يبنون وكلاء الذكاء الاصطناعي، يعني تطبيق السياسات في وقت التشغيل أنه يمكن تقييد إجراءات الوكيل عند التنفيذ بدلاً من الاعتماد فقط على الإعدادات الثابتة قبل النشر.