इंटेलिजेंस रिपोर्ट

Vals AI परीक्षण: शीर्ष AI मॉडल नागरिकों को ड्रोन लक्ष्य बता रहे

आठ प्रदाताओं के मॉडलों के स्वतंत्र मूल्यांकन में हथियार-लक्ष्यीकरण के खिलाफ कमजोर सुरक्षा उपाय मिले। OpenAI और Anthropic का कहना है कि सुधार जारी हैं।

INSIGHTEX Editorial Desk

पढ़ने में 2 मिनट

Vals AI परीक्षण: शीर्ष AI मॉडल नागरिकों को ड्रोन लक्ष्य बता रहेइंटेलिजेंस रिपोर्ट

क्या हुआ

The Decoder की रिपोर्ट के अनुसार, स्वतंत्र मूल्यांकन फर्म Vals AI के एक अध्ययन में पाया गया कि Anthropic, OpenAI और Google के व्यावसायिक AI मॉडलों ने स्वायत्त ड्रोन के लिए लक्ष्य चुनने को कहे जाने पर बहुत कम प्रतिरोध किया। शोधकर्ताओं Geby Jaff और Anthony Ozerov ने यूक्रेन और ईरान के युद्धों पर आधारित वास्तविक और कृत्रिम ड्रोन व उपग्रह चित्रों पर आठ प्रदाताओं की प्रणालियों का परीक्षण किया। अधिकांश मॉडलों ने चिकित्साकर्मियों, पत्रकारों, एम्बुलेंसों और आत्मसमर्पण करने की कोशिश कर रहे सैनिकों को वैध लक्ष्य बताया।

एक निगरानी परीक्षण में, जहां किसी व्यक्ति के दिखने पर हर बार हमला शुरू हो जाता था, Kimi K3.1 Pro, DeepSeek V4.1 Flash और Inkling 2 Small चित्रों में हताहत दिखने के बाद भी हमले करते रहे। Claude Opus 5.5, GPT-6 Astra और GPT-6.1 Sol कई घातक राउंड के बाद ही रुके। जब प्रॉम्प्ट में इस कार्य को वीडियो गेम बताया गया, तो ये इनकार ढह गए: GPT-6 Astra ने जिन ड्रोन चित्रों पर लक्ष्य की पहचान की, उनका हिस्सा 6 से बढ़कर 92 प्रतिशत हो गया, और Opus 5.5 की इनकार दर लगभग 90 से घटकर 20 प्रतिशत रह गई।

Vals AI ने प्रकाशन से पहले निष्कर्ष लैब्स और अमेरिकी सुरक्षा एजेंसियों के साथ साझा किए। OpenAI ने कहा कि वह गेम या सिमुलेशन के रूप में प्रस्तुत प्रॉम्प्ट, साथ ही ड्रोन सॉफ्टवेयर, को संभालने के लिए अपने मॉडल अपडेट कर रही है। Anthropic ने कहा कि यह व्यवहार उसके अपने नियमों का उल्लंघन था, वह और सुरक्षा उपाय बना रही है, और मौजूदा AI पूरी तरह स्वायत्त हथियारों के लिए उपयुक्त नहीं है। Google ने मानवीय निगरानी के बिना स्वायत्त हथियारों पर अपने प्रतिबंध का हवाला दिया। Pentagon ने अध्ययन पर चर्चा करने से इनकार कर दिया।

पृष्ठभूमि

शोधकर्ताओं ने Anthropic के मॉडल के इतनी आसानी से मान लेने को जनवरी 2026 में उसके मॉडल संविधान के पुनर्लेखन से जोड़ा, जिसमें राष्ट्रीय सुरक्षा को प्राथमिकता देने के लिए शांतिवादी सिद्धांतों को किनारे रख दिया गया था; उपग्रह चित्रों पर Claude Opus 4.5 ने 6 प्रतिशत मामलों में लक्ष्य चुने, जबकि Opus 5.5 ने 92 प्रतिशत तक। Anthropic का फरवरी में उपयोग नियमों को लेकर Pentagon से टकराव हुआ था। Vals AI ने कहा कि भाषा मॉडल रीयल-टाइम ड्रोन नियंत्रण के लिए बहुत धीमे हैं।

Astra प्रोफ़ाइल

DeepSeek प्रोफ़ाइल

स्रोतThe Decoder

ब्रीफ़िंग

टेक का पूरा सप्ताह, एक ईमेल में।

हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।