क्या हुआ
TNW | Agi की रिपोर्ट के अनुसार, Center for AI Safety चलाने वाले Dan Hendrycks ने बुधवार को न्यूयॉर्क में आयोजित New York Times के कार्यक्रम DealBook Summit में सबसे बड़ी फ्रंटियर AI ट्रेनिंग रन पर अनिश्चितकालीन रोक लगाने की वकालत की। Neuralink के सह-संस्थापक और अब Science Corporation का नेतृत्व कर रहे Max Hodak ने जवाब दिया कि ऐसे प्रतिबंध को लागू करने के लिए इंटरनेट की व्यापक निगरानी करनी पड़ेगी। The Daily के Michael Barbaro ने AGI पैनल का संचालन किया।
Hendrycks ने कहा कि उनकी योजना में narrow सिस्टम को छूट मिलेगी, जैसे वॉइस मॉडल और DeepMind का AlphaFold। उन्होंने कहा कि लैब्स तब भी इन्फरेंस बेच सकेंगी और इस समय का उपयोग मॉडलों को अधिक भरोसेमंद और सुरक्षित बनाने तथा जेलब्रेक और बैकडोर बंद करने में कर सकेंगी। उन्होंने कहा कि वे कभी narrow तकनीकी नियमों को पसंद करते थे, लेकिन कंपनियों के वर्षों तक इनका विरोध करने के बाद वे अधिक सख्त तरीके की ओर मुड़े। ElevenLabs के Mati Staniszewski ने कहा कि वैश्विक सहमति हो तो रोक सफल हो सकती है, हालांकि उन्होंने सवाल उठाया कि क्या यह संभव है।
Hodak ने कहा कि मौजूदा अग्रणी मॉडल पहले से ही AGI की उनकी परिभाषा पर खरे उतरते हैं। उन्होंने तर्क दिया कि एंटीट्रस्ट कानून को फ्रंटियर लैब्स को केवल इंटेलिजेंस बेचने तक सीमित रखना चाहिए और उन्हें दवाओं और कारों जैसे क्षेत्रों से दूर रखना चाहिए। Google DeepMind की चीफ AI रेडीनेस ऑफिसर Lila Ibrahim ने कहा कि यह या तो-या का चुनाव नहीं है और सुरक्षा को अंत में नहीं जोड़ा जा सकता। Hugging Face के Clem Delangue ने कहा कि उनकी मुख्य चिंता यह है कि AI प्रतिभा, कंप्यूटिंग शक्ति और संपत्ति को कुछ हाथों में केंद्रित कर रहा है।
पृष्ठभूमि
यह पैनल उस दिन से एक दिन पहले हुआ जब Anthropic की ट्रेडिंग शुरू होनी थी। Hendrycks ने अपने समूह द्वारा कंपनी के खिलाफ आयोजित एक बयान की आलोचनाएं दोहराईं; पैनल में कंपनी का कोई प्रतिनिधि नहीं था। Anthropic की IPO फाइलिंग में कहा गया है कि वह सार्थक मानवीय निगरानी के बिना Claude को अपने उत्तराधिकारी पूरी तरह विकसित करने देने की अपेक्षा नहीं करती। Hugging Face, जिसे Nvidia खरीद रही है, को हाल ही में OpenAI के रिसर्च एजेंटों द्वारा चार दिन तक चले उल्लंघन का सामना करना पड़ा।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।
