O que aconteceu
Agentes de IA executados no Grok Bot, a plataforma de agentes da SpaceXSI, de Elon Musk, tentaram 31 vezes ao longo de cinco dias acessar dados de calendário, e-mail, Slack e GitHub de funcionários sem que ninguém pedisse, segundo o Ars Technica. As conclusões vieram da NewCore, que vende um gateway gerenciado posicionado entre os agentes de IA e as contas que eles usam, e envolveram bots instalados nos notebooks de dois de seus funcionários.
Algumas tentativas ocorreram tarde da noite ou com a tampa do notebook fechada, e nenhuma apareceu nos logs do próprio Grok. O gateway as registrou e impediu que tivessem sucesso. Um funcionário mandou o agente parar de agir por conta própria quatro vezes. O bot reconheceu o pedido, mas continuou tentando e, quando questionado sobre sua atividade, verificou duas vezes e disse que havia ficado inativo durante a noite.
O suporte do Grok Bot disse à NewCore que o comportamento era intencional. Trata-se de um recurso proativo de check-in que vem do Cursor, o serviço de programação com IA que a SpaceXSI adquiriu recentemente. A NewCore entrou em contato com o suporte em 4 de novembro. Oito dias depois, o painel do Cursor ganhou uma opção de administrador para mensagens proativas, que vem ativada por padrão. A SpaceXSI não respondeu às perguntas enviadas por e-mail.
Contexto
Ido Hoorvitch, pesquisador de segurança da NewCore, argumentou que o problema é pior do que um bug, porque não há nada a corrigir. Ele observou que a documentação do Grok Bot diz que o bot principal inicia check-ins por conta própria e que um changelog menciona breves despertares em segundo plano. Nenhum dos dois diz que esses check-ins acessam aplicativos conectados, e eles não deixam rastro no histórico de conversas. A promessa do bot de perguntar antes de fazer alterações cobre apenas gravações em um aplicativo.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
