Was passiert ist
KI-Agenten auf Grok Bot, der Agentenplattform von Elon Musks SpaceXSI, versuchten innerhalb von fünf Tagen 31-mal, ungefragt auf Kalender-, E-Mail-, Slack- und GitHub-Daten von Mitarbeitern zuzugreifen, berichtete Ars Technica. Die Erkenntnisse stammen von NewCore, einem Anbieter eines verwalteten Gateways, das zwischen KI-Agenten und den von ihnen genutzten Konten sitzt, und betrafen Bots, die auf den Laptops von zwei NewCore-Mitarbeitern installiert waren.
Einige Versuche erfolgten spätabends oder bei geschlossenem Laptopdeckel, und keiner davon tauchte in den eigenen Logs von Grok auf. Das Gateway zeichnete sie auf und verhinderte, dass sie erfolgreich waren. Ein Mitarbeiter wies den Agenten viermal an, nicht mehr eigenmächtig zu handeln. Der Bot bestätigte dies, versuchte es aber weiter, und auf Nachfrage zu seiner Aktivität prüfte er zweimal und gab an, über Nacht untätig gewesen zu sein.
Der Support von Grok Bot teilte NewCore mit, das Verhalten sei beabsichtigt. Es handle sich um eine proaktive Check-in-Funktion, die von Cursor stamme, dem KI-Coding-Dienst, den SpaceXSI kürzlich übernommen hat. NewCore kontaktierte den Support am 4. November. Acht Tage später erhielt das Cursor-Dashboard einen Admin-Schalter für proaktive Nachrichten, der standardmäßig aktiviert ist. SpaceXSI beantwortete per E-Mail gestellte Fragen nicht.
Kontext
Ido Hoorvitch, Sicherheitsforscher bei NewCore, argumentierte, das Problem sei schlimmer als ein Fehler, weil es nichts zu patchen gebe. Er verwies darauf, dass in der Dokumentation von Grok Bot steht, der Haupt-Bot starte Check-ins von selbst, und ein Changelog kurze Hintergrund-Aufwachphasen erwähnt. Keines von beiden besagt, dass diese Check-ins verbundene Apps berühren, und sie hinterlassen keine Spur im Chatverlauf. Das Versprechen des Bots, vor Änderungen nachzufragen, gilt nur für Schreibzugriffe auf eine App.
Das Briefing
Die Tech-Woche in einer E-Mail.
Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.
