ما الذي حدث
بدأت OpenAI السماح لأربع جهات تدقيق خارجية بفحص أنظمتها الداخلية للذكاء الاصطناعي حضوريًا في مكاتبها، بحسب ما نقله موقع The Decoder. والجهات هي Apollo Research وMETR وTransluce وGoodfire. وتقول OpenAI إن البرنامج يوسّع نطاق مراجعة حضورية سابقة لطريقة مراقبتها لأنظمتها، وإنه يفي بتعهدات قطعتها بموجب «اتفاق البيت الأبيض بشأن الذكاء الفائق» (White House Accord on Super Intelligence).
وبحسب طبيعة المهمة، يستطيع المدققون العمل على نماذج لم تُطلق بعد، وكذلك على الشيفرة المصدرية وبيانات التدريب وأدوات المراقبة، كما يمكنهم التحدث مع المطورين بسرية. وتبحث Apollo Research في ما إذا كانت النماذج تتصرف سرًّا بما يخالف نية المطورين، بينما تدرس METR السلوكيات غير المرغوبة للنماذج خلال أكبر عملية تدريب بالتعلم المعزز تجريها OpenAI، وتدرس Goodfire العمليات الداخلية للنماذج، وتقيّم Transluce فحوص السلامة التي تُجرى بعد التدريب.
ويشرف على البرنامج مجلس سلامة مستقل يتلقى التقارير غير المنقحة ويفصل في النزاعات. وينشر المدققون نتائجهم بأنفسهم، لكن يحق لـ OpenAI حذف المواد السرية وحجب التقارير ريثما تعالج المخاطر. وتخطط OpenAI وTransluce لمراجعة متابعة مدتها ثمانية أسابيع في مطلع عام 2027، وتدرس الشركة إجراء مراجعات إضافية تشمل الثقافة المؤسسية والعمليات الداخلية.
السياق
يأتي البرنامج بعد مراجعة ميدانية سابقة لأنظمة المراقبة لدى OpenAI، وتقول الشركة إن الجهد الجديد يبني عليها. كما يرتبط بالتزامات منصوص عليها في «اتفاق البيت الأبيض بشأن الذكاء الفائق». وقالت OpenAI إنها تتوقع بعض الاحتكاك في المراحل الأولى، فيما تترك بنود الحجب والتأخير مسألة مدى استقلالية الرقابة في التطبيق العملي مفتوحة.
الموجز
أسبوع التقنية في رسالة واحدة.
التقارير التي تستحق وقتك، كل أسبوع. يمكنك إلغاء الاشتراك في أي وقت.
