何が起きたのか
The Decoderの報道によると、OpenAIはGPT-6.2 AstraおよびGPT-6.2 Solモデルの内部推論を攻撃者の手に渡さないための保護を大幅に強化した。同社によれば、6つの攻撃側モデルを自社システムにぶつけた適応型ブラックボックス・レッドチーミングでは、過去のリクエストから保護された推論を抽出することに成功した割合が、GPT-6 Astraの54.0%からGPT-6.2 Astraでは0.2%に低下した。
処理中のリクエストを狙った攻撃については、成功率が22.9%から0.9%に下がったとOpenAIは述べている。この安全対策は2つの面で機能する。個々のリクエストに対しては、対象を絞ったモデル学習に加え、受信・送信するメッセージやツール呼び出しを検査するフィルター、さらに旧モデルが保護された推論を読み取れないようにするAPI制限を組み合わせている。
組織的な蒸留キャンペーンへの対抗策として、OpenAIは毎週数千から数万のアカウントを停止していると説明した。同社はまた、改善策の一部を従来のGPT-6 Astraモデルにも拡大適用しており、旧システムも新しい保護の一部を得られるようにしていると付け加えた。
背景
この戦いに臨んでいるのはOpenAIだけではない。Anthropicも組織的な蒸留攻撃と闘っており、同様に数万のアカウントを停止して自社モデルの内部推論の窃取を抑え込もうとしていて、その取り組みは90〜99%のケースで成功していると報じられている。Anthropicはさらに、この問題への対応を業界と政策立案者が連携して進めるよう呼びかけている。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
