Was passiert ist
Das Sicherheitsunternehmen NebuSec hat gezeigt, dass eine präparierte Webseite, die von Meta Muse, dem persönlichen KI-Agenten des Unternehmens, geöffnet wird, den Chatverlauf und die gespeicherten Erinnerungen eines Nutzers auf einen externen Server kopieren und verändern konnte, ohne dass je eine Aufforderung zur Genehmigung erschien, wie The Hacker News berichtete. Es handelte sich um eine Laborübung, die nicht auf echte Nutzer abzielte.
Die Forscher kombinierten anschließend eine Schwachstelle im integrierten Browser des Agenten, auf den sich Muse etwa für das Erstellen von PDFs stützt, mit einem Fehler im Linux-Kernel, um die vollständige Kontrolle über die individuelle Cloud-Maschine des Nutzers zu erlangen. Diese Kontrolle erstreckte sich auf den Speicher für Zugangsdaten verbundener Konten, gespeicherte Dateien und Sentinel, die Überwachungsschicht, die alle ausgehenden Aktivitäten des Agenten kontrollieren soll. Der Angriff erreichte weder den gemeinsam genutzten Server darunter noch die Maschinen anderer Nutzer.
Das Unternehmen erklärte, es habe seine Erkenntnisse mit dem Muse-Team geteilt, und alle Exploits seien vor der Veröffentlichung behoben worden. Meta hat die Patches bislang nicht öffentlich bestätigt und sich auch nicht zu den Ergebnissen geäußert; der Bericht lässt offen, ob Nutzerdaten schon vor den Korrekturen offengelegt wurden.
Hintergrund
Meta hat Muse am 8. September als Agenten vorgestellt, der über verknüpfte Konten arbeitet und für Nutzer Einkäufe tätigen kann, jeweils auf einem eigenen Cloud-Rechner. Das Design ging davon aus, dass der Agent selbst kompromittiert werden könnte, und zielte darauf ab, die Folgen zu begrenzen, indem Kontopasswörter und Tokens außerhalb der Reichweite des Agenten gehalten werden. Eine frühere Schwachstelle im September war enger gefasst: Sie erlaubte Malware, die bereits auf dem Mac eines Nutzers lief, den Assistenten lokal zu übernehmen.
Das Briefing
Die Tech-Woche in einer E-Mail.
Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.
