इंटेलिजेंस रिपोर्ट

OpenAI ने GPT-6.2 Astra पर रीजनिंग-एक्सट्रैक्शन हमलों की सफलता 0.2% तक घटाई

नई स्तरीय सुरक्षा व्यवस्था और हर हफ्ते बड़े पैमाने पर खातों पर प्रतिबंध का मकसद OpenAI के नए मॉडलों की छिपी रीजनिंग को प्रतिद्वंद्वियों द्वारा डिस्टिल किए जाने से रोकना है।

INSIGHTEX Editorial Desk

पढ़ने में 2 मिनट

OpenAI ने GPT-6.2 Astra पर रीजनिंग-एक्सट्रैक्शन हमलों की सफलता 0.2% तक घटाईइंटेलिजेंस रिपोर्ट

क्या हुआ

The Decoder की रिपोर्ट के अनुसार, OpenAI ने अपने GPT-6.2 Astra और GPT-6.2 Sol मॉडलों की आंतरिक रीजनिंग को हमलावरों के हाथ लगने से बचाने वाली सुरक्षा को काफी मजबूत किया है। कंपनी के मुताबिक, छह हमलावर मॉडलों को उसके सिस्टम के खिलाफ उतारने वाली अनुकूली ब्लैक-बॉक्स रेड टीमिंग में दिखा कि पिछले अनुरोधों से संरक्षित रीजनिंग निकालने में हमलों की सफलता GPT-6 Astra पर 54.0 प्रतिशत से घटकर GPT-6.2 Astra पर 0.2 प्रतिशत रह गई।

जो हमले अब भी जारी अनुरोधों को निशाना बनाते हैं, उनके लिए OpenAI ने बताया कि सफलता दर 22.9 प्रतिशत से गिरकर 0.9 प्रतिशत हो गई। सुरक्षा उपाय दो स्तरों पर काम करते हैं। अलग-अलग अनुरोधों के लिए कंपनी लक्षित मॉडल प्रशिक्षण को आने-जाने वाले संदेशों और टूल कॉल की जांच करने वाले फिल्टरों के साथ जोड़ती है, और साथ में ऐसे API प्रतिबंध लगाती है जो पुराने मॉडलों को संरक्षित रीजनिंग पढ़ने से रोकते हैं।

संगठित डिस्टिलेशन अभियानों का मुकाबला करने के लिए OpenAI ने कहा कि वह हर हफ्ते हजारों से लेकर दसियों हजार खाते निलंबित करती है। कंपनी ने यह भी जोड़ा कि वह अब कुछ चुनिंदा सुधारों को पुराने GPT-6 Astra मॉडल तक भी बढ़ा रही है, ताकि पुराने सिस्टम को भी नई सुरक्षा का कुछ हिस्सा मिल सके।

पृष्ठभूमि

इस लड़ाई में OpenAI अकेली नहीं है। Anthropic भी व्यवस्थित डिस्टिलेशन हमलों से जूझ रही है और अपने मॉडलों की आंतरिक रीजनिंग की चोरी सीमित करने के लिए उसने भी दसियों हजार खातों पर प्रतिबंध लगाया है; रिपोर्टों के अनुसार उसके प्रयास 90 से 99 प्रतिशत मामलों में सफल रहते हैं। Anthropic ने इसके अलावा उद्योग और नीति-निर्माताओं से इस समस्या पर अपनी प्रतिक्रिया में समन्वय करने का आग्रह भी किया है।

Astra प्रोफ़ाइल

स्रोतThe Decoder

ब्रीफ़िंग

टेक का पूरा सप्ताह, एक ईमेल में।

हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।