Intelligence-Bericht

OpenAI lässt vier externe Prüfer unveröffentlichte KI-Modelle vor Ort testen

Apollo Research, METR, Transluce und Goodfire erhalten Zugang zu Code, Trainingsdaten und Überwachungstools. OpenAI darf Berichte jedoch schwärzen und verzögern.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

OpenAI lässt vier externe Prüfer unveröffentlichte KI-Modelle vor Ort testenIntelligence-Bericht

Was passiert ist

OpenAI lässt vier externe Prüfgruppen seine internen KI-Systeme nun persönlich in den eigenen Büros untersuchen, berichtet The Decoder. Es handelt sich um Apollo Research, METR, Transluce und Goodfire. Laut OpenAI baut das Programm auf einer früheren Prüfung vor Ort auf, bei der untersucht wurde, wie das Unternehmen seine Systeme überwacht, und erfüllt Zusagen aus dem White House Accord on Super Intelligence.

Je nach Auftrag können die Prüfer mit noch nicht veröffentlichten Modellen sowie mit Quellcode, Trainingsdaten und Überwachungstools arbeiten und vertraulich mit Entwicklern sprechen. Apollo Research untersucht, ob Modelle heimlich gegen die Absichten der Entwickler handeln, METR befasst sich mit unerwünschtem Modellverhalten während OpenAIs größtem Trainingslauf mit bestärkendem Lernen (Reinforcement Learning), Goodfire erforscht interne Abläufe in den Modellen, und Transluce bewertet die Sicherheitsprüfungen nach dem Training.

Ein unabhängiges Sicherheitsgremium beaufsichtigt das Programm, erhält ungeschwärzte Berichte und schlichtet Streitfälle. Die Prüfer veröffentlichen ihre Ergebnisse eigenständig, doch OpenAI darf vertrauliches Material entfernen und Berichte zurückhalten, solange es Risiken behebt. OpenAI und Transluce planen Anfang 2027 eine achtwöchige Folgeprüfung, und das Unternehmen erwägt weitere Prüfungen zu Unternehmenskultur und internen Prozessen.

Hintergrund

Das Programm folgt auf eine frühere Prüfung der Überwachungssysteme von OpenAI vor Ort, auf der die neue Initiative nach Angaben des Unternehmens aufbaut. Zudem ist es mit Verpflichtungen aus dem White House Accord on Super Intelligence verknüpft. OpenAI hat erklärt, in der Anfangsphase mit gewissen Reibungen zu rechnen, und die Regelungen zu Schwärzung und Verzögerung lassen offen, wie unabhängig die Aufsicht in der Praxis sein wird.

QuelleThe Decoder

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.