Rapport de veille

OpenAI ouvre ses modèles inédits à quatre auditeurs externes

Apollo Research, METR, Transluce et Goodfire accèdent au code, aux données d'entraînement et aux outils de supervision, mais OpenAI garde la main pour caviarder et retarder les rapports.

INSIGHTEX Editorial Desk

2 min de lecture

OpenAI ouvre ses modèles inédits à quatre auditeurs externesRapport de veille

Ce qui s'est passé

OpenAI a commencé à autoriser quatre groupes d'audit externes à examiner en personne ses systèmes d'IA internes dans ses locaux, selon The Decoder. Ces organisations sont Apollo Research, METR, Transluce et Goodfire. D'après OpenAI, le programme prolonge un précédent examen sur site de la manière dont elle supervise ses systèmes, et répond aux engagements pris dans le cadre du White House Accord on Super Intelligence.

Selon la mission, les auditeurs peuvent travailler avec des modèles qui n'ont pas encore été publiés, ainsi qu'avec le code source, les données d'entraînement et les outils de supervision, et peuvent s'entretenir confidentiellement avec les développeurs. Apollo Research cherche à déterminer si des modèles agissent en secret contre l'intention de leurs concepteurs, METR étudie les comportements indésirables des modèles pendant le plus gros entraînement par apprentissage par renforcement d'OpenAI, Goodfire analyse les processus internes des modèles, et Transluce évalue les contrôles de sécurité effectués après l'entraînement.

Un comité de sécurité indépendant supervise le programme, reçoit les rapports non caviardés et tranche les litiges. Les auditeurs publient leurs conclusions de leur côté, mais OpenAI peut en retirer les éléments confidentiels et retenir les rapports le temps de traiter les risques. OpenAI et Transluce prévoient un nouvel examen de suivi de huit semaines début 2027, et l'entreprise envisage d'autres examens portant sur la culture et les processus internes.

Contexte

Le programme fait suite à un précédent examen sur site des systèmes de supervision d'OpenAI, sur lequel, selon l'entreprise, cette nouvelle initiative s'appuie. Il est également lié aux engagements du White House Accord on Super Intelligence. OpenAI a indiqué s'attendre à certaines frictions dans les premiers temps, et les clauses de caviardage et de report laissent ouverte la question de l'indépendance réelle de ce contrôle dans la pratique.

SourceThe Decoder

Le briefing

La semaine tech, en un seul e-mail.

Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.