क्या हुआ
Anthropic ने FlashProve जारी किया है, जो एक ओपन-सोर्स प्रोटोटाइप है। इसकी मदद से कोई AI मॉडल प्रदाता किसी विशिष्ट मॉडल के प्रति प्रतिबद्धता (commitment) घोषित कर सकता है और फिर हर जवाब के साथ एक क्रिप्टोग्राफिक प्रमाण जोड़ सकता है, जो दिखाता है कि वह जवाब उसी मॉडल ने तैयार किया है, Anthropic ने बताया। यह सिस्टम zkSNARKs पर निर्भर है, जो ज़ीरो-नॉलेज संक्षिप्त प्रमाणों की एक श्रेणी है। कंपनी ने कहा कि जिन सुधारों की बदौलत यह पहले के ओपन-सोर्स तरीकों से काफ़ी तेज़ है, वे Claude ने तैयार किए।
Llama 4 Maverick पर किए गए परीक्षणों में, जो 4-बिट क्वांटाइज़्ड वेट वाला 400B-पैरामीटर का मिक्स्चर-ऑफ़-एक्सपर्ट्स मॉडल है, एक H100 GPU ने लगभग 110 टोकन प्रति सेकंड की गति से प्रमाण तैयार किए। हर 1,024-टोकन अनुरोध पर लगभग 19 MB का प्रमाण बनता है। प्रमाण तैयार करने में उतने GPU समय का लगभग 70 से 95 गुना लगता है जितना मॉडल को vLLM पर चलाने में लगता है। vLLM एक ओपन-सोर्स लाइब्रेरी है। वहीं पहले के ओपन-सोर्स सिस्टम को परिमाण के कई दर्जे (orders of magnitude) धीमा बताया गया।
ये प्रमाण मॉडल के वेट को छिपाते हैं, लेकिन उसके आर्किटेक्चर को छिपाने के लिए नहीं बनाए गए हैं। Claude के डिज़ाइन संबंधी फ़ैसलों की जाँच आसान बनाने के लिए टीम ने सुरक्षा गारंटियों के Lean औपचारिक कथन उपलब्ध कराए हैं, साथ ही एक प्रूवर, एक तेज़ C++ वेरिफ़ायर और एक प्रमाणित रूप से सही Lean वेरिफ़ायर भी दिया है। कोड, प्रमाण और दस्तावेज़ Apache 2.0 लाइसेंस के तहत उपलब्ध हैं, और लेखकों ने इस काम को मध्यवर्ती प्रगति बताया है।
पृष्ठभूमि
आज उपयोगकर्ता यह पुष्टि नहीं कर सकते कि किसी जवाब को किस मॉडल ने तैयार किया। कोई रूटिंग सेवा चुपचाप सस्ता मॉडल लगा सकती है, या कोई हमलावर टोकन स्ट्रीम से छेड़छाड़ कर सकता है। सीधे जाँच करने के लिए निजी वेट और भारी कंप्यूट की ज़रूरत होगी। Anthropic ने कहा कि सिद्ध करने योग्य (provable) इन्फ़रेंस स्वतंत्र मूल्यांकनकर्ताओं और नियामकों की भी मदद कर सकता है, जिसमें वे प्रस्ताव भी शामिल हैं जो हार्डवेयर को ट्रेनिंग के बजाय केवल इन्फ़रेंस तक सीमित करेंगे।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।