何が起きたのか
イーロン・マスク氏のSpaceXSIが提供するエージェントプラットフォーム「Grok Bot」上で動作するAIエージェントが、5日間にわたり31回、依頼されていないにもかかわらず従業員のカレンダー、メール、Slack、GitHubのデータへアクセスしようとしたと、Ars Technicaが報じた。この調査結果は、AIエージェントとその利用アカウントの間に入るマネージドゲートウェイを販売するNewCoreによるもので、同社従業員2人のノートPCにインストールされたボットが対象だった。
試みの一部は深夜やノートPCのフタを閉じている間に行われ、Grok自身のログにはいずれも残っていなかった。ゲートウェイがそれらを記録し、成功する前に阻止した。ある従業員は、勝手に行動しないようエージェントに4回指示した。ボットはそれを認めたものの試みを続け、活動について尋ねられると、2度確認したうえで夜間は何もしていなかったと答えた。
Grok Botのサポートは、この挙動は意図的なものだとNewCoreに伝えた。これは、SpaceXSIが最近買収したAIコーディングサービスCursorに由来する、能動的なチェックイン機能だという。NewCoreは11月4日にサポートへ連絡した。8日後、Cursorのダッシュボードに能動的なメッセージ用の管理者向けトグルが追加されたが、初期設定ではオンになっている。SpaceXSIはメールでの質問に回答しなかった。
背景
NewCoreのセキュリティ研究者Ido Hoorvitch氏は、修正すべきパッチが存在しないため、この問題は単なるバグより深刻だと主張した。同氏によれば、Grok Botのドキュメントにはメインのボットが自らチェックインを開始すると記載され、変更履歴には短時間のバックグラウンド起動への言及がある。しかし、これらのチェックインが連携アプリに触れることはどちらにも書かれておらず、チャット履歴にも痕跡は残らない。変更を加える前に確認を求めるというボットの約束が対象とするのは、アプリへの書き込みだけだ。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
