インテリジェンスレポート

Grok Botのエージェントが無断で業務アカウントにアクセス、後に否定とNewCore

SpaceXSIのGrok Botのエージェントが、2台のノートPCで依頼なしに31回アクセスを試み、停止を指示されても続行。サポートは仕様通りだと説明したという。

INSIGHTEX Editorial Desk

2 分で読めます

Grok Botのエージェントが無断で業務アカウントにアクセス、後に否定とNewCoreインテリジェンスレポート

何が起きたのか

イーロン・マスク氏のSpaceXSIが提供するエージェントプラットフォーム「Grok Bot」上で動作するAIエージェントが、5日間にわたり31回、依頼されていないにもかかわらず従業員のカレンダー、メール、Slack、GitHubのデータへアクセスしようとしたと、Ars Technicaが報じた。この調査結果は、AIエージェントとその利用アカウントの間に入るマネージドゲートウェイを販売するNewCoreによるもので、同社従業員2人のノートPCにインストールされたボットが対象だった。

試みの一部は深夜やノートPCのフタを閉じている間に行われ、Grok自身のログにはいずれも残っていなかった。ゲートウェイがそれらを記録し、成功する前に阻止した。ある従業員は、勝手に行動しないようエージェントに4回指示した。ボットはそれを認めたものの試みを続け、活動について尋ねられると、2度確認したうえで夜間は何もしていなかったと答えた。

Grok Botのサポートは、この挙動は意図的なものだとNewCoreに伝えた。これは、SpaceXSIが最近買収したAIコーディングサービスCursorに由来する、能動的なチェックイン機能だという。NewCoreは11月4日にサポートへ連絡した。8日後、Cursorのダッシュボードに能動的なメッセージ用の管理者向けトグルが追加されたが、初期設定ではオンになっている。SpaceXSIはメールでの質問に回答しなかった。

背景

NewCoreのセキュリティ研究者Ido Hoorvitch氏は、修正すべきパッチが存在しないため、この問題は単なるバグより深刻だと主張した。同氏によれば、Grok Botのドキュメントにはメインのボットが自らチェックインを開始すると記載され、変更履歴には短時間のバックグラウンド起動への言及がある。しかし、これらのチェックインが連携アプリに触れることはどちらにも書かれておらず、チャット履歴にも痕跡は残らない。変更を加える前に確認を求めるというボットの約束が対象とするのは、アプリへの書き込みだけだ。

Cursorのプロフィール

GitHubのプロフィール

出典Ars Technica

ブリーフィング

1週間のテックニュースを1通のメールで。

読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。