इंटेलिजेंस रिपोर्ट

नडेला की चेतावनी: AI से बग खोज तेज़, जल्दबाज़ी में पैच और बढ़ते आउटेज

Microsoft के चीफ एग्जीक्यूटिव ने कहा कि AI टूल खामियों को सुरक्षित ढंग से ठीक होने से कहीं तेज़ी से उजागर कर रहे हैं। उन्होंने AI मॉडलों को काबू में रखने के लिए लॉग-आधारित तरीका भी सुझाया।

INSIGHTEX Editorial Desk

पढ़ने में 2 मिनट

नडेला की चेतावनी: AI से बग खोज तेज़, जल्दबाज़ी में पैच और बढ़ते आउटेजइंटेलिजेंस रिपोर्ट

क्या हुआ

TNW | Microsoft की रिपोर्ट के अनुसार, Microsoft के चीफ एग्जीक्यूटिव सत्य नडेला ने कहा कि उन्हें सॉफ़्टवेयर आउटेज और बढ़ने की आशंका है, क्योंकि AI टूल अब सुरक्षा कमज़ोरियों को उस रफ़्तार से खोज निकालते हैं जिस रफ़्तार से कंपनियां उन्हें सुरक्षित रूप से ठीक नहीं कर पातीं। न्यूयॉर्क में बुधवार को द न्यूयॉर्क टाइम्स द्वारा आयोजित DealBook Summit में Andrew Ross Sorkin के साथ बातचीत में उन्होंने Outlook आउटेज के लिए माफ़ी मांगी, जिसका इस प्रवृत्ति से, उनके अनुसार, कोई सीधा संबंध नहीं था। बाद में CNBC पर Jim Cramer से बातचीत में उन्होंने कहा कि Microsoft को ज़्यादा परीक्षण करना चाहिए था और खराबी के दुनिया भर में फैलने से पहले उसे अलग कर देना चाहिए था।

नडेला ने कहा कि किसी अहम बैंकिंग सिस्टम के फ़िक्स को पहले लगभग एक हफ़्ते के परीक्षण से गुज़ारा जाता था। चूंकि हमलावर अब कमज़ोरियों के सामने आते ही उनका फ़ायदा उठा लेते हैं, इसलिए उनके अनुसार पैच सीधे प्रोडक्शन में डाल दिए जाते हैं, जिससे अस्थिरता आती है। उन्होंने बताया कि जिस दिन वे बोल रहे थे, उसी दिन तीन अहम ओपन-सोर्स पैच आए थे। उन्होंने यह भी कहा कि AI मॉडल लगभग किसी को भी राष्ट्र-स्तरीय क्षमताओं वाले लगातार सक्रिय हमलावर की तरह काम करने की सुविधा दे देते हैं।

AI सुरक्षा पर नडेला ने कहा कि स्केलिंग ने नतीजे दिए हैं, लेकिन अलाइनमेंट और मॉडलों की भरोसेमंद डिबगिंग उसके साथ नहीं आई। उन्होंने एक ऐसा ढांचा सुझाया जिसे उन्होंने ट्रस्ट आर्किटेक्चर कहा। यह ऐसे मॉडलों पर रोक लगाएगा जो इंसानों के लिए अपठनीय संक्षिप्त संकेतों में तर्क करते हैं, और छेड़छाड़-रोधी रीज़निंग रिकॉर्ड अनिवार्य करेगा जिन्हें दूसरे मॉडल जांच सकें। उन्होंने कहा कि फ़िलहाल AI सिस्टम के कामों के लिए तैनात करने वाले जवाबदेह हैं, और उन्हें उम्मीद है कि बीमा कंपनियां इस जोखिम की कीमत तय करेंगी और लॉग दिखाने को कहेंगी।

पृष्ठभूमि

Microsoft के पास OpenAI और Anthropic में हिस्सेदारी है। नडेला ने कहा कि OpenAI के साथ अपने समझौते के तहत Microsoft 2032 तक बिना रॉयल्टी चुकाए किसी फ्रंटियर मॉडल का इस्तेमाल कर सकता है। उनके अनुसार, इससे वह अपने MAI मॉडल विकसित कर पाता है जो अग्रणी स्तर से तीन से छह महीने पीछे हैं और जिन्हें सिर्फ़ 5% से 20% कंप्यूट की ज़रूरत पड़ती है। Microsoft ने 60,000 कर्मचारियों को बायआउट की पेशकश भी की है, और उसका Cowork एजेंट 11 डेवलपर्स की टीम ने बनाया है।

स्रोतTNW | Microsoft

ब्रीफ़िंग

टेक का पूरा सप्ताह, एक ईमेल में।

हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।