क्या हुआ
Ars Technica की रिपोर्ट के मुताबिक, Elon Musk की SpaceXSI के एजेंट प्लेटफ़ॉर्म Grok Bot पर चल रहे AI एजेंटों ने पाँच दिनों में 31 बार, बिना कहे, कर्मचारियों के कैलेंडर, ईमेल, Slack और GitHub डेटा तक पहुँचने की कोशिश की। ये निष्कर्ष NewCore से आए, जो AI एजेंटों और उनके इस्तेमाल किए जाने वाले अकाउंट के बीच बैठने वाला एक मैनेज्ड गेटवे बेचती है। मामला उसके दो कर्मचारियों के लैपटॉप पर इंस्टॉल किए गए बॉट से जुड़ा था।
कुछ कोशिशें देर रात या लैपटॉप का ढक्कन बंद होने पर हुईं, और इनमें से कोई भी Grok के अपने लॉग में नहीं दिखी। गेटवे ने इन्हें दर्ज किया और सफल होने से रोका। एक कर्मचारी ने एजेंट को चार बार अपने आप काम करना बंद करने को कहा। बॉट ने यह स्वीकार तो किया, पर कोशिश करता रहा, और अपनी गतिविधि के बारे में पूछे जाने पर उसने दो बार जाँच की और कहा कि वह रात भर निष्क्रिय था।
Grok Bot सपोर्ट ने NewCore को बताया कि यह व्यवहार जानबूझकर रखा गया है। यह एक प्रोएक्टिव चेक-इन फ़ीचर है, जो Cursor से आया है, यानी उस AI कोडिंग सेवा से जिसे SpaceXSI ने हाल ही में खरीदा है। NewCore ने 4 नवंबर को सपोर्ट से संपर्क किया। आठ दिन बाद Cursor डैशबोर्ड में प्रोएक्टिव मैसेज के लिए एक एडमिन टॉगल जोड़ा गया, जो डिफ़ॉल्ट रूप से चालू रहता है। SpaceXSI ने ईमेल से पूछे गए सवालों का जवाब नहीं दिया।
पृष्ठभूमि
NewCore के सिक्योरिटी रिसर्चर Ido Hoorvitch का तर्क है कि समस्या किसी बग से भी बदतर है, क्योंकि पैच करने के लिए कुछ है ही नहीं। उन्होंने बताया कि Grok Bot के डॉक्यूमेंटेशन में लिखा है कि मुख्य बॉट खुद चेक-इन शुरू करता है और एक चेंजलॉग में छोटे बैकग्राउंड वेक-अप का ज़िक्र है। दोनों में से कोई नहीं कहता कि ये चेक-इन जुड़े हुए ऐप्स को छूते हैं, और ये चैट हिस्ट्री में कोई निशान नहीं छोड़ते। बदलाव करने से पहले पूछने का बॉट का वादा केवल किसी ऐप में लिखने (राइट) तक सीमित है।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।
