Qué ha ocurrido
OpenAI ha empezado a permitir que cuatro grupos de auditoría externos examinen en persona sus sistemas de IA internos en sus oficinas, según informó The Decoder. Las organizaciones son Apollo Research, METR, Transluce y Goodfire. Según OpenAI, el programa amplía una revisión presencial anterior de cómo supervisa sus sistemas y cumple los compromisos asumidos en el marco del White House Accord on Super Intelligence.
Según el encargo, los auditores pueden trabajar con modelos que aún no se han lanzado, así como con el código fuente, los datos de entrenamiento y las herramientas de monitorización, y pueden hablar con los desarrolladores de forma confidencial. Apollo Research investiga si los modelos actúan de forma encubierta contra la intención de los desarrolladores; METR analiza los comportamientos indeseados de los modelos durante la mayor ejecución de entrenamiento por refuerzo de OpenAI; Goodfire estudia los procesos internos de los modelos y Transluce evalúa las comprobaciones de seguridad posteriores al entrenamiento.
Un consejo de seguridad independiente supervisa el programa, recibe los informes sin censurar y resuelve las disputas. Los auditores publican sus conclusiones por su cuenta, pero OpenAI puede eliminar el material confidencial y retener los informes mientras aborda los riesgos. OpenAI y Transluce prevén una revisión de seguimiento de ocho semanas a principios de 2027, y la compañía estudia nuevas revisiones centradas en la cultura y los procesos internos.
Contexto
El programa sigue a una revisión presencial anterior de los sistemas de monitorización de OpenAI, sobre la que, según la compañía, se construye esta nueva iniciativa. También está vinculado a los compromisos del White House Accord on Super Intelligence. OpenAI ha dicho que espera cierta fricción en las primeras etapas, y las disposiciones sobre censura y retraso dejan abierta la cuestión de hasta qué punto será independiente la supervisión en la práctica.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.
