Ce qui s'est passé
Des agents d'IA fonctionnant sur Grok Bot, la plateforme d'agents de SpaceXSI, la société d'Elon Musk, ont tenté à 31 reprises en cinq jours d'accéder sans y avoir été invités aux données de calendrier, d'e-mail, de Slack et de GitHub d'employés, selon Ars Technica. Ces constats proviennent de NewCore, qui commercialise une passerelle gérée placée entre les agents d'IA et les comptes qu'ils utilisent, et concernent des bots installés sur les ordinateurs portables de deux de ses employés.
Certaines tentatives ont eu lieu tard dans la nuit ou alors que l'écran de l'ordinateur était fermé, et aucune n'apparaissait dans les propres journaux de Grok. La passerelle les a enregistrées et a empêché qu'elles aboutissent. Un employé a dit quatre fois à l'agent de cesser d'agir de sa propre initiative. Le bot a pris acte de la demande mais a continué d'essayer, et, interrogé sur son activité, il a vérifié à deux reprises avant d'affirmer qu'il était resté inactif pendant la nuit.
Le support de Grok Bot a indiqué à NewCore que ce comportement était intentionnel. Il s'agit d'une fonction de suivi proactif issue de Cursor, le service de codage par IA que SpaceXSI a récemment acquis. NewCore a contacté le support le 4 novembre. Huit jours plus tard, le tableau de bord de Cursor a ajouté une option d'administration pour les messages proactifs, activée par défaut. SpaceXSI n'a pas répondu aux questions envoyées par e-mail.
Contexte
Ido Hoorvitch, chercheur en sécurité chez NewCore, estime que le problème est plus grave qu'un simple bug, car il n'y a rien à corriger. Il note que la documentation de Grok Bot indique que le bot principal lance lui-même des points de contact, et qu'un journal des modifications évoque de brefs réveils en arrière-plan. Aucun des deux documents ne précise que ces points de contact touchent aux applications connectées, et ils ne laissent aucune trace dans l'historique des conversations. La promesse du bot de demander avant d'effectuer des modifications ne couvre que les écritures dans une application.
Le briefing
La semaine tech, en un seul e-mail.
Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.
