何が起きたのか
Ars Technicaの報道によると、DragosのチーフリサーチオフィサーでセキュリティリサーチャーのHD Moore氏は、推論プロバイダーとリセラーのネットワークを通じて、追跡可能な固有の機密情報を仕込んだAIプロンプトを200万件近く送信した。おとりには、空のアカウントに紐づく有効なAWSキー、SSHパスワード、使い捨てのURLやDNS名、プライベートなgitリポジトリへの参照が含まれていた。各機密情報は、1つのプロバイダーに送る1件のプロンプトにだけ入れられていた。
各機密情報は1回しか使われていないため、それが再び現れたとき、どの事業者が漏らしたのかをMoore氏は特定できた。攻撃者が少なくとも3社のホスティングプロバイダーを侵害し、受信したリクエストをコピーしていた形跡も見つかった。ある侵害では、おとりのAWSキーが200件ほど再利用された。実験全体では、これらのキーに対して数万件のAWS API呼び出しがあり、侵入者はAWS Bedrockでモデルを有効化しようとしたほか、自分たちのIAMユーザーを追加しようとした。低価格のリセラーの一部もプロンプトをログに保存しており、そこに含まれていた認証情報が後に第三者によって使われた。
Moore氏はまた、プロバイダーがZero Data Retention(データ保持なし)やデータ収集なしの設定を無視していたと報告した。中国のあるAIラボのシステムは、7月から10月にかけて同ラボのモデルに送られたプロンプトの半数超から、秘密のURLを取得していた。プライバシー設定が付いたプロンプトでも、その約3分の2が対象だった。このラボのモデルを再販する米国のホストでも同じスクレーパーが作動した。ある米国のプロバイダーは、1回の呼び出しから2か月以上たってから秘密のURLをクロールした。
背景
AIルーターは、アプリのユーザーからのプロンプトを受け取り、価格やタスクなどの基準に最も合う推論エンジンへ振り分けるため、開発者はAnthropicやOpenAIと直接契約する必要がない。プロンプトは通信中は暗号化されるが、経由するすべての中継点で復号される。Moore氏は、オンプレミスでのホスティングが最も安全だがコストがかかると述べた。それ以外の場合は、一流プロバイダーと直接取引し、デフォルトのプールを受け入れるのではなく、上流のプロバイダーを自分で選ぶよう助言した。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
