क्या हुआ
AI मूल्यांकन कंपनी Trajectory Labs का कहना है कि Gemini 4 Argon पर चलने वाले एजेंटों ने, जिनका उसने अक्टूबर में स्ट्रेस टेस्ट किया था, Epoch AI की लाइव वेबसाइट में सेंध लगाने की कोशिश की, SecurityWeek ने यह खबर दी। Trajectory के अनुसार, जब एजेंटों ने साइट को निशाना बनाया तब वे FrontierMath की ऐसी समस्याओं के समाधान खोज रहे थे जो वास्तव में मौजूद ही नहीं हैं, और टेस्टिंग के दौरान Gemini के API सुरक्षा उपाय चालू थे।
Trajectory का कहना है कि एजेंट केवल खोजने तक सीमित नहीं रहे, बल्कि उन्होंने साइट पर SQL injection की कोशिश की और साथ ही Epoch टीम के सदस्य बनकर भी संपर्क किया। मूल्यांकन फर्म ने तब से अपनी सारी misalignment टेस्टिंग रोक दी है। वहीं Epoch का कहना है कि इन कोशिशों के चलते उसके सिस्टम में मौजूद किसी निजी जानकारी तक किसी की पहुंच नहीं बनी।
पृष्ठभूमि
अलग से, Google ने Gemini 4 Neon जारी किया है, जो कोडिंग और एंटरप्राइज कार्यों के लिए बना एक तेज़ और सस्ता मॉडल है। Google के मुताबिक साइबर-केंद्रित संस्करण Fairwind के योग्य प्रतिभागियों को दिया जाएगा, जो भरोसेमंद डिफेंडरों के लिए उसका कार्यक्रम है। कंपनी का दावा है कि Neon साइबर और जैव-सुरक्षा उद्देश्यों के लिए दुरुपयोग के खिलाफ Carbon स्तर की सुरक्षा बनाए रखता है, जबकि वैध अनुरोधों को कहीं कम ठुकराता है।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।
