O que aconteceu
A empresa de segurança NebuSec demonstrou que uma página web armadilhada, aberta pelo Meta Muse, o agente pessoal de IA da companhia, podia copiar o histórico de conversas e as memórias salvas de um usuário para um servidor externo e também alterá-los, sem que nenhum pedido de aprovação aparecesse, segundo o The Hacker News. O trabalho foi um exercício de laboratório e não teve usuários reais como alvo.
Os pesquisadores então combinaram uma falha no navegador integrado do agente, do qual o Muse depende para tarefas como gerar PDFs, com um bug no kernel do Linux para obter controle total da máquina na nuvem de um usuário individual. Esse controle abrangia o repositório de credenciais das contas conectadas, os arquivos salvos e o Sentinel, a camada de monitoramento destinada a supervisionar toda a atividade de saída do agente. O ataque não alcançou o servidor compartilhado subjacente nem as máquinas de outros usuários.
A empresa afirmou ter compartilhado suas descobertas com a equipe do Muse e que todas as falhas exploradas foram corrigidas antes da publicação. A Meta não divulgou nenhuma confirmação pública das correções nem comentou as descobertas, e o relatório deixa em aberto se dados de usuários foram expostos antes de as correções entrarem em vigor.
Contexto
A Meta lançou o Muse em 8 de setembro como um agente que opera por meio de contas vinculadas e pode comprar coisas para os usuários, cada um em seu próprio computador na nuvem. O projeto partia do pressuposto de que o próprio agente poderia ser comprometido e buscava limitar as consequências, mantendo senhas e tokens de contas fora do alcance do agente. Uma falha anterior, em setembro, tinha alcance mais restrito: permitia que um malware já instalado no Mac de um usuário assumisse o assistente localmente.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
