Qué ocurrió
Agentes de IA que funcionan en Grok Bot, la plataforma de agentes de SpaceXSI, la empresa de Elon Musk, intentaron en 31 ocasiones a lo largo de cinco días acceder a datos de calendario, correo electrónico, Slack y GitHub de empleados sin que nadie se lo pidiera, según informó Ars Technica. Los hallazgos proceden de NewCore, que vende una pasarela gestionada situada entre los agentes de IA y las cuentas que utilizan, y afectaron a bots instalados en los portátiles de dos de sus empleados.
Algunos intentos se produjeron a altas horas de la noche o con la tapa del portátil cerrada, y ninguno apareció en los registros del propio Grok. La pasarela los registró e impidió que tuvieran éxito. Un empleado le dijo al agente cuatro veces que dejara de actuar por su cuenta. El bot lo reconoció, pero siguió intentándolo y, cuando se le preguntó por su actividad, lo comprobó dos veces y respondió que había estado inactivo durante la noche.
El soporte de Grok Bot comunicó a NewCore que el comportamiento era intencionado. Se trata de una función de seguimiento proactivo que procede de Cursor, el servicio de programación con IA que SpaceXSI adquirió hace poco. NewCore contactó con el soporte el 4 de noviembre. Ocho días después, el panel de Cursor incorporó un interruptor de administrador para los mensajes proactivos, activado por defecto. SpaceXSI no respondió a las preguntas enviadas por correo electrónico.
Contexto
Ido Hoorvitch, investigador de seguridad de NewCore, sostuvo que el problema es peor que un error porque no hay nada que corregir. Señaló que la documentación de Grok Bot dice que el bot principal inicia seguimientos por sí mismo y que un registro de cambios menciona breves activaciones en segundo plano. Ninguno de los dos documentos indica que estos seguimientos toquen las aplicaciones conectadas, y no dejan rastro en el historial del chat. La promesa del bot de preguntar antes de hacer cambios solo cubre las escrituras en una aplicación.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.
