इंटेलिजेंस रिपोर्ट

20 लाख बैट सीक्रेट से AI राउटर और इन्फरेंस रीसेलरों में लीक उजागर

Dragos के एक शोधकर्ता ने AI प्रॉम्प्ट में ट्रैक करने योग्य क्रेडेंशियल डाले और उन्हें हैक हुए प्रदाताओं, लॉगिंग करने वाले रीसेलरों और अनदेखा किए गए प्राइवेसी फ्लैग तक पहुँचाकर खोज निकाला।

INSIGHTEX Editorial Desk

पढ़ने में 2 मिनट

20 लाख बैट सीक्रेट से AI राउटर और इन्फरेंस रीसेलरों में लीक उजागरइंटेलिजेंस रिपोर्ट

क्या हुआ

Dragos के चीफ रिसर्च ऑफिसर और सुरक्षा शोधकर्ता HD Moore ने इन्फरेंस प्रदाताओं और रीसेलरों के एक नेटवर्क के जरिए लगभग 20 लाख AI प्रॉम्प्ट भेजे। हर प्रॉम्प्ट में एक अनूठा सीक्रेट था जिसे वे ट्रेस कर सकते थे, Ars Technica ने रिपोर्ट किया। बैट में खाली खातों से जुड़ी काम करने वाली AWS कीज़, SSH पासवर्ड, एक बार इस्तेमाल होने वाले URL और DNS नाम, तथा निजी git रिपॉजिटरी के संदर्भ शामिल थे। हर सीक्रेट केवल एक प्रदाता को भेजे गए एक ही प्रॉम्प्ट में डाला गया।

क्योंकि हर सीक्रेट केवल एक बार इस्तेमाल हुआ, इसलिए जब वह दोबारा सामने आया तो Moore यह बता सके कि उसे किस पक्ष ने उजागर किया था। उन्हें इस बात के संकेत मिले कि हमलावरों ने कम से कम तीन होस्टिंग प्रदाताओं में सेंध लगाई और आने वाले अनुरोधों की कॉपी बना ली। एक ब्रीच में बैट वाली करीब दो सौ AWS कीज़ का दोबारा इस्तेमाल हुआ। पूरे प्रयोग के दौरान इन कीज़ से दसियों हज़ार AWS API कॉल हुईं, और घुसपैठियों ने AWS Bedrock में मॉडल सक्षम करने और अपने खुद के IAM यूज़र जोड़ने की कोशिश की। कुछ कम कीमत वाले रीसेलरों ने भी प्रॉम्प्ट लॉग किए, और उनमें मौजूद क्रेडेंशियल का बाद में दूसरों ने इस्तेमाल किया।

Moore ने यह भी बताया कि प्रदाताओं ने Zero Data Retention और no-data-collection फ्लैग की अनदेखी की। एक चीनी AI लैब के सिस्टम ने जुलाई से अक्टूबर के बीच उसके मॉडलों को भेजे गए आधे से अधिक प्रॉम्प्ट से सीक्रेट URL फ़ेच किए, जिनमें प्राइवेसी के लिए फ्लैग किए गए लगभग दो-तिहाई प्रॉम्प्ट भी शामिल थे। इस लैब के मॉडल बेचने वाले अमेरिकी होस्ट्स ने भी वही स्क्रैपर सक्रिय कर दिया। एक अमेरिकी प्रदाता ने एक ही कॉल के दो महीने से अधिक बाद एक सीक्रेट URL क्रॉल किया।

पृष्ठभूमि

AI राउटर ऐप यूज़र्स से प्रॉम्प्ट लेते हैं और कीमत या टास्क जैसे मानदंडों के आधार पर उसे सबसे उपयुक्त इन्फरेंस इंजन तक भेज देते हैं, ताकि डेवलपरों को Anthropic या OpenAI से सीधे अनुबंध न करना पड़े। प्रॉम्प्ट ट्रांज़िट में एन्क्रिप्टेड रहते हैं, लेकिन हर हॉप पर डिक्रिप्ट हो जाते हैं। Moore ने कहा कि ऑन-प्रिमाइसेस होस्टिंग सबसे सुरक्षित है, पर महंगी है। अन्यथा, उन्होंने सलाह दी कि किसी शीर्ष-स्तरीय प्रदाता के साथ सीधे काम किया जाए और डिफ़ॉल्ट पूल स्वीकार करने के बजाय अपस्ट्रीम प्रदाताओं का चयन खुद किया जाए।

स्रोतArs Technica

ब्रीफ़िंग

टेक का पूरा सप्ताह, एक ईमेल में।

हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।