क्या हुआ
The Decoder की रिपोर्ट के अनुसार, OpenAI ने अपने GPT-6.2 Astra और GPT-6.2 Sol मॉडलों की आंतरिक रीजनिंग को हमलावरों के हाथ लगने से बचाने वाली सुरक्षा को काफी मजबूत किया है। कंपनी के मुताबिक, छह हमलावर मॉडलों को उसके सिस्टम के खिलाफ उतारने वाली अनुकूली ब्लैक-बॉक्स रेड टीमिंग में दिखा कि पिछले अनुरोधों से संरक्षित रीजनिंग निकालने में हमलों की सफलता GPT-6 Astra पर 54.0 प्रतिशत से घटकर GPT-6.2 Astra पर 0.2 प्रतिशत रह गई।
जो हमले अब भी जारी अनुरोधों को निशाना बनाते हैं, उनके लिए OpenAI ने बताया कि सफलता दर 22.9 प्रतिशत से गिरकर 0.9 प्रतिशत हो गई। सुरक्षा उपाय दो स्तरों पर काम करते हैं। अलग-अलग अनुरोधों के लिए कंपनी लक्षित मॉडल प्रशिक्षण को आने-जाने वाले संदेशों और टूल कॉल की जांच करने वाले फिल्टरों के साथ जोड़ती है, और साथ में ऐसे API प्रतिबंध लगाती है जो पुराने मॉडलों को संरक्षित रीजनिंग पढ़ने से रोकते हैं।
संगठित डिस्टिलेशन अभियानों का मुकाबला करने के लिए OpenAI ने कहा कि वह हर हफ्ते हजारों से लेकर दसियों हजार खाते निलंबित करती है। कंपनी ने यह भी जोड़ा कि वह अब कुछ चुनिंदा सुधारों को पुराने GPT-6 Astra मॉडल तक भी बढ़ा रही है, ताकि पुराने सिस्टम को भी नई सुरक्षा का कुछ हिस्सा मिल सके।
पृष्ठभूमि
इस लड़ाई में OpenAI अकेली नहीं है। Anthropic भी व्यवस्थित डिस्टिलेशन हमलों से जूझ रही है और अपने मॉडलों की आंतरिक रीजनिंग की चोरी सीमित करने के लिए उसने भी दसियों हजार खातों पर प्रतिबंध लगाया है; रिपोर्टों के अनुसार उसके प्रयास 90 से 99 प्रतिशत मामलों में सफल रहते हैं। Anthropic ने इसके अलावा उद्योग और नीति-निर्माताओं से इस समस्या पर अपनी प्रतिक्रिया में समन्वय करने का आग्रह भी किया है।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।
