何が起きたか
The Decoderの報道によると、OpenAIは4つの外部監査グループに対し、同社オフィスで社内AIシステムを直接調べることを認め始めた。対象となる組織はApollo Research、METR、Transluce、Goodfireである。OpenAIによれば、このプログラムは同社のシステム監視方法に関するこれまでの対面レビューを拡張するもので、White House Accord on Super Intelligenceに基づいて行った公約を履行するものでもある。
監査人は、担当する業務に応じて、まだ公開されていないモデルのほか、ソースコード、学習データ、監視ツールを扱うことができ、開発者と内密に話をすることもできる。Apollo Researchは、モデルが開発者の意図に反して密かに行動していないかを調べている。METRは、OpenAIで最大規模の強化学習のトレーニング実行中に見られる望ましくないモデルの挙動を調べている。Goodfireはモデル内部のプロセスを研究し、Transluceはポストトレーニング段階の安全性チェックを評価している。
独立した安全性委員会がプログラムを監督し、編集されていない報告書を受け取り、紛争を調停する。監査人は調査結果を独自に公表するが、OpenAIは機密情報を削除したり、リスクへの対処が済むまで報告書の公開を保留したりすることができる。OpenAIとTransluceは2027年初頭に8週間のフォローアップレビューを予定しており、同社は組織文化や社内プロセスを対象とする追加のレビューも検討している。
背景
このプログラムは、OpenAIの監視システムに対するこれまでの現地レビューに続くもので、同社は今回の取り組みはそれを土台にしていると説明している。また、White House Accord on Super Intelligenceに基づく公約にも結びついている。OpenAIは、初期段階では一定の摩擦が生じると予想していると述べている。編集と公開延期に関する規定があるため、この監督が実際にどこまで独立したものになるかは依然として不透明だ。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
