क्या हुआ
The Decoder की रिपोर्ट के अनुसार, OpenAI ने चार बाहरी ऑडिट समूहों को अपने कार्यालयों में व्यक्तिगत रूप से अपने आंतरिक AI सिस्टम की जांच करने की अनुमति देना शुरू कर दिया है। ये संगठन हैं Apollo Research, METR, Transluce और Goodfire। OpenAI के अनुसार, यह कार्यक्रम अपने सिस्टम की निगरानी के तरीके की पिछली प्रत्यक्ष समीक्षा का विस्तार है, और यह White House Accord on Super Intelligence के तहत किए गए वादों को पूरा करता है।
काम के आधार पर, ऑडिटर ऐसे मॉडलों के साथ काम कर सकते हैं जो अभी जारी नहीं हुए हैं, साथ ही सोर्स कोड, ट्रेनिंग डेटा और मॉनिटरिंग टूल्स के साथ भी, और वे डेवलपरों से गोपनीय रूप से बात कर सकते हैं। Apollo Research यह जांच रही है कि क्या मॉडल डेवलपर की मंशा के विरुद्ध गुप्त रूप से काम करते हैं, METR OpenAI के सबसे बड़े रीइन्फोर्समेंट लर्निंग ट्रेनिंग रन के दौरान मॉडल के अवांछित व्यवहार को देख रहा है, Goodfire मॉडल की आंतरिक प्रक्रियाओं का अध्ययन कर रहा है, और Transluce पोस्ट-ट्रेनिंग सुरक्षा जांचों का आकलन कर रहा है।
एक स्वतंत्र सुरक्षा बोर्ड इस कार्यक्रम की निगरानी करता है, बिना संपादित रिपोर्टें प्राप्त करता है और विवादों का निपटारा करता है। ऑडिटर अपने निष्कर्ष स्वयं प्रकाशित करते हैं, लेकिन OpenAI गोपनीय सामग्री हटा सकता है और जोखिमों को संबोधित करने तक रिपोर्टें रोक सकता है। OpenAI और Transluce 2027 की शुरुआत में आठ सप्ताह की अनुवर्ती समीक्षा की योजना बना रहे हैं, और कंपनी संस्कृति और आंतरिक प्रक्रियाओं को कवर करने वाली आगे की समीक्षाओं पर विचार कर रही है।
पृष्ठभूमि
यह कार्यक्रम OpenAI के मॉनिटरिंग सिस्टम की पहले की ऑन-साइट समीक्षा के बाद आया है, जिस पर कंपनी के अनुसार यह नया प्रयास आधारित है। यह White House Accord on Super Intelligence के तहत की गई प्रतिबद्धताओं से भी जुड़ा है। OpenAI ने कहा है कि उसे शुरुआती चरणों में कुछ घर्षण की उम्मीद है, और रिपोर्टों में बदलाव और देरी के प्रावधान इस सवाल को खुला छोड़ते हैं कि व्यवहार में यह निगरानी कितनी स्वतंत्र साबित होगी।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।
