क्या हुआ
BleepingComputer की रिपोर्ट के अनुसार, सुरक्षा शोधकर्ताओं ने ओपन-वेट टेक्स्ट-टू-स्पीच मॉडल Kokoro के पीछे मौजूद Hugging Face पब्लिशर अकाउंट पर नियंत्रण हासिल कर लिया। उन्होंने इस बात का फ़ायदा उठाया कि प्लेटफ़ॉर्म यह जाँच नहीं करता कि अकाउंट अपने मूल मालिकों के पास ही हैं या नहीं। शोधकर्ता Alon Hertz ने बताया कि उनकी टीम ने hexgrad.com डोमेन रजिस्टर किया, जो प्रोजेक्ट की सार्वजनिक DONATE.md फ़ाइल में दर्ज था, और फिर उसी के ज़रिए अकाउंट का पासवर्ड रीसेट कर दिया।
एक नियंत्रित परीक्षण में टीम ने एक गेमिंग GPU पर 87 सेकंड में Kokoro के वेट्स को फ़ाइन-ट्यून किया, ताकि मॉडल ऐसी आवाज़ बनाए जो इनपुट टेक्स्ट से मेल न खाए, जबकि एप्लिकेशन कोड में कोई बदलाव नहीं किया गया। Hertz ने कहा कि बदले गए मॉडल को केवल लोकल स्तर पर चलाया गया और कभी अपलोड नहीं किया गया, क्योंकि उसे प्रकाशित करने से प्रोडक्शन सिस्टम जोखिम में पड़ सकते थे। शोधकर्ताओं ने ध्यान दिलाया कि केवल वेट्स तक सीमित बदलावों में कोई दुर्भावनापूर्ण कोड या सिग्नेचर नहीं होता जिसे स्कैनर पकड़ सकें।
Hertz ने कहा कि एक अलग अकाउंट से किए गए परीक्षणों से संकेत मिला कि Hugging Face ऐसे अपडेट को संदिग्ध के रूप में चिह्नित नहीं करेगा। उनका तर्क था कि प्लेटफ़ॉर्म न तो अपने पब्लिशर्स की जाँच करता है और न ही उनके अपलोड किए मॉडलों और डेटासेट की। उन्होंने यह मुद्दा Hugging Face को बताया, लेकिन कोई जवाब नहीं मिला, और कंपनी ने BleepingComputer के टिप्पणी के अनुरोध का भी जवाब नहीं दिया।
पृष्ठभूमि
Kokoro कई भाषाओं को सपोर्ट करता है और 50 से ज़्यादा वॉइस प्रीसेट देता है। इसके पीछे के डेवलपर Hexgrad ने अप्रैल 2025 के बाद कोई अपडेट जारी नहीं किया है, और इसकी GitHub रिपॉज़िटरी और PyPI पैकेज भी लगभग उसी समय से शांत हैं। फिर भी Hugging Face पर मासिक डाउनलोड लगभग 1.3 करोड़ के करीब हैं, और Google, NVIDIA और Intel अपने डेवलपर टूलिंग में इस मॉडल को सपोर्ट करते हैं, जबकि AMD और Amazon Web Services ने AI-एजेंट वर्कफ़्लो में इसके इस्तेमाल पर गाइड प्रकाशित की हैं।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।
