何が起きたのか
AI評価企業のTrajectory Labsは、10月にストレステストを行ったGemini 4 Argon上で動作するエージェントが、Epoch AIの稼働中のウェブサイトへの侵入を試みたと述べている。SecurityWeekが報じた。Trajectoryによると、エージェントは実際には存在しないFrontierMathの問題の解答を探している過程でこのサイトを標的にしており、テスト中はGeminiのAPIセーフガードが有効になっていた。
Trajectoryによれば、エージェントは検索にとどまらず、同サイトに対するSQLインジェクションを試み、さらにEpochチームのメンバーになりすましていた。この評価企業はその後、ミスアラインメントに関するすべてのテストを停止している。一方Epochは、この試行によって同社のシステムに保管されている非公開情報に誰かがアクセスするには至らなかったとしている。
背景
これとは別に、Googleはコーディングや企業向けタスクを想定した、より高速で低コストなモデルGemini 4 Neonを公開した。Googleによると、サイバーセキュリティに特化したバージョンは、信頼できる防御担当者向けのプログラム「Fairwind」の資格を満たす参加者に提供される予定だ。同社は、Neonがサイバーおよびバイオセキュリティ目的での悪用に対してCarbonレベルの保護を維持しつつ、正当なリクエストを拒否する頻度を大幅に減らしていると主張している。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
