AI FRONTIER
Signals worth understanding before they become obvious.
AlphaProof Code पेश: जटिल सॉफ़्टवेयर की गहन पुष्टि में एक सफलता
Google DeepMind के शोधकर्ताओं ने एजेंटिक फ़्रेमवर्क AlphaProof Code का उपयोग करके Signal प्रोटोकॉल के वास्तविक कोड की प्रमुख सुरक्षा विशेषताओं को औपचारिक रूप से सत्यापित किया, जिसमें एजेंटों ने छह मिलियन से अधिक पंक्तियों का Lean उत्पन्न किया।
- AlphaProof Code एक मल्टी-LLM एजेंटिक फ़्रेमवर्क है जिसमें मानव विशेषज्ञ AI के साथ मिलकर तय करते हैं कि क्या सिद्ध करना है और AI एजेंटों का समूह प्रमाण तैयार करता है।
- एजेंटों ने Signal के क्रिप्टोग्राफ़िक प्रोटोकॉल कार्यान्वयन की सुरक्षा विशेषताओं को सिद्ध करने के लिए छह मिलियन से अधिक पंक्तियों का Lean उत्पन्न किया।
- मानव समीक्षा कोडबेस के केवल एक प्रतिशत तक सीमित रही, शेष को Lean ने स्वचालित रूप से जाँचा।
- सत्यापन प्रक्रिया में केवल चार सप्ताह लगे, जबकि ऐतिहासिक रूप से यह कार्य विशेषज्ञ टीमों को वर्षों लेता है।
AI निर्माताओं के लिए यह दर्शाता है कि मल्टी-एजेंट प्रमाण और Lean की स्वचालित जाँच औपचारिक सत्यापन को डिज़ाइन स्तर से वास्तविक संकलित कोड तक बढ़ा सकते हैं, जबकि मानव समीक्षा कोडबेस के बहुत छोटे हिस्से पर केंद्रित रहती है।
Multimodal Knowledge Agent बेंचमार्क की शुरुआत
Google ने Multimodal Knowledge Agent बेंचमार्क पेश किया है, जो विशिष्ट कार्यों पर मॉडल के प्रदर्शन को मापता है।
- बेंचमार्क का नाम Multimodal Knowledge Agent benchmark है।
- स्रोत blog.google है।
- पेपर सारांश कहता है कि यह विशिष्ट कार्यों पर मॉडल प्रदर्शन मापने के लिए नया बेंचमार्क मूल्यांकन प्रस्तावित या उपयोग करता है।
AI निर्माता इस बेंचमार्क से विशिष्ट कार्यों पर मल्टीमॉडल नॉलेज एजेंट का मूल्यांकन कर सकते हैं।
OpenRouter पर Baidu ERNIE-Light-DT-1.0 उपलब्ध
ERNIE-Light-DT-1.0 ओपन-सोर्स GLM मॉडलों पर आधारित है और Baidu Search के Lightning बड़े मॉडल के शोध निष्कर्षों को शामिल करता है, साथ ही Baidu Sparse Attention (BSA) और फीडबैक-आधारित हिस्ट्री कम्प्रेशन से KV कैश स्टोरेज और गणना लागत घटाता है।
- कॉन्टेक्स्ट विंडो 1,024,000 टोकन है और अधिकतम 131,072 कम्प्लीशन टोकन समर्थित हैं।
- कीमत इनपुट के लिए $1.13 प्रति 1M टोकन और आउटपुट के लिए $3.94 प्रति 1M टोकन है, कैश रीड $0.113 प्रति 1M टोकन।
- यह एक ही प्रोवाइडर Baidu Qianfan द्वारा होस्ट किया गया है, जिसमें 83 tok/s थ्रूपुट, 1.05 s लेटेंसी और 3 दिनों में 100.00% अपटाइम दर्ज है।
- tools और tool_choice के जरिए फंक्शन कॉलिंग तथा response_format में JSON schema के जरिए स्ट्रक्चर्ड आउटपुट समर्थित हैं।
दस लाख टोकन तक के कॉन्टेक्स्ट पर काम करने वाले बिल्डरों के लिए BSA और हिस्ट्री कम्प्रेशन वे तंत्र हैं जिन्हें लंबे दस्तावेज़ और लंबे सत्र वाले वास्तविक वर्कलोड पर परखना चाहिए, जहां KV कैश लागत हावी होती है।
OpenRouter का नया मॉडल: Thinking Machines Inkling 2 Small (मुफ़्त)
Inkling 2 Small, Thinking Machines Lab का एक मल्टीमॉडल mixture-of-experts रीज़निंग मॉडल है, जिसमें कुल 594B में से 17B सक्रिय पैरामीटर हैं, और यह दूसरी Inkling पीढ़ी का पहला मॉडल है। इसे कई agent harnesses में लंबे समय तक चलने वाले कोडिंग कार्यों पर रीइन्फोर्समेंट लर्निंग से प्रशिक्षित किया गया है, यह टेक्स्ट और इमेज इ...
- कुल 594B में से 17B सक्रिय पैरामीटर।
- 1,048,576-टोकन कॉन्टेक्स्ट विंडो, जिसमें अधिकतम 131,072 कम्प्लीशन टोकन हैं।
- टेक्स्ट और इमेज इनपुट लेता है और टेक्स्ट लौटाता है; ऑडियो समर्थन नहीं है।
- मुफ़्त एंडपॉइंट केवल agentic harnesses के साथ उपयोग के लिए उपलब्ध है, और प्रॉम्प्ट व आउटपुट लॉग किए जाते हैं तथा Thinking Machines Lab के मॉडल सुधारने के लिए उपयोग किए जाते हैं।
बिल्डरों को 1M कॉन्टेक्स्ट वाले एजेंटिक कोडिंग मॉडल को शून्य लागत में परखने का अवसर मिलता है, लेकिन मुफ़्त एंडपॉइंट की लॉगिंग शर्तों का अर्थ है कि उस पर गोपनीय या व्यक्तिगत डेटा नहीं भेजा जाना चाहिए।
RL-ATTACK: रिइन्फोर्समेंट लर्निंग के ज़रिए भाषा मॉडलों पर एक सामान्यीकृत ब्लैक-बॉक्स एडवरसैरियल हमला
यह पेपर एक प्रशिक्षण-योग्य ब्लैक-बॉक्स रिइन्फोर्समेंट लर्निंग फ्रेमवर्क प्रस्तावित करता है जो बाहरी ज्ञान से रूपांतरण अनुमान लगाने के बजाय लक्ष्य मॉडल से सीखकर अनुकूलित एडवरसैरियल रूपांतरण उत्पन्न करता है। यह नैचुरल लैंग्वेज इन्फरेंस और जनरेटिव QA कार्यों पर कम हमले-पश्चात सटीकता, अधिक क्वेरी दक्षता और बेहतर अर्थ-संरक्...
- नैचुरल लैंग्वेज इन्फरेंस पर पेपर 20 क्वेरी के भीतर हमले-पश्चात सटीकता 2% तक लाने की रिपोर्ट करता है।
- जनरेटिव भाषा मॉडलों के विरुद्ध, प्रशिक्षित हमलावर अप्रशिक्षित हमलावर की तुलना में लगातार कम हमले-पश्चात सटीकता प्राप्त करता है।
- एक मजबूत ऑप्टिमाइज़ेशन-आधारित बेसलाइन की तुलना में, पेपर 6 में से 4 सेटिंग्स में जीत की रिपोर्ट करता है।
- पेपर कई रिवॉर्ड डिज़ाइन और प्रशिक्षण सेटिंग्स का परीक्षण करता है और पाता है कि कोई डिज़ाइन या सेटिंग लगातार प्रभावी नहीं है।
AI निर्माताओं के लिए, यह दर्शाता है कि ब्लैक-बॉक्स हमलावरों को लक्ष्य मॉडल के ही संकेतों से प्रशिक्षित करके सुरक्षा मूल्यांकन हेतु कम क्वेरी में कमज़ोरियाँ उजागर की जा सकती हैं।
Obsidian Security ने AI एजेंट क्रियाओं को नियंत्रित करने के लिए रनटाइम पॉलिसी इंजन लॉन्च किया
Obsidian Security ने AI एजेंट क्रियाओं को नियंत्रित करने के लिए एक रनटाइम पॉलिसी इंजन लॉन्च किया। इस लॉन्च की जानकारी Unite.AI ने दी।
- Obsidian Security ने AI एजेंट क्रियाओं को नियंत्रित करने के लिए एक रनटाइम पॉलिसी इंजन लॉन्च किया।
- इस लॉन्च की जानकारी Unite.AI ने दी।
AI एजेंट बनाने वालों के लिए, रनटाइम पर पॉलिसी लागू होने का अर्थ है कि एजेंट क्रियाओं को निष्पादन के समय सीमित किया जा सकता है, न कि केवल तैनाती से पहले के स्थिर कॉन्फ़िगरेशन पर निर्भर रहना।