Что произошло
Компания по кибербезопасности NebuSec продемонстрировала, что специально подготовленная вебстраница, открытая в Meta Muse, персональном ИИ-агенте компании, могла скопировать историю переписки и сохранённые воспоминания пользователя на внешний сервер и изменить их, причём запрос на подтверждение ни разу не появлялся, сообщило издание The Hacker News. Работа была лабораторным экспериментом и не затрагивала реальных пользователей.
Затем исследователи объединили уязвимость во встроенном браузере агента, на который Muse опирается для таких задач, как создание PDF-файлов, с ошибкой в ядре Linux и получили полный контроль над облачной машиной отдельного пользователя. Этот контроль распространялся на хранилище учётных данных подключённых аккаунтов, сохранённые файлы и Sentinel, уровень мониторинга, призванный следить за всей исходящей активностью агента. До общего сервера, лежащего в основе системы, и до машин других пользователей атака не дошла.
В компании сообщили, что передали результаты команде Muse и что все эксплойты были исправлены до публикации. Meta не выпускала публичных подтверждений исправлений и не комментировала находки, а в материале остаётся открытым вопрос, были ли данные пользователей раскрыты до выхода исправлений.
Контекст
Meta запустила Muse 8 сентября как агента, который работает через связанные аккаунты и может совершать покупки для пользователей, причём у каждого из них своя облачная машина. Его архитектура исходила из того, что сам агент может быть скомпрометирован, и была нацелена на ограничение последствий: пароли и токены аккаунтов хранились вне досягаемости агента. Более ранняя сентябрьская уязвимость была уже по масштабу: она позволяла вредоносной программе, уже находящейся на Mac пользователя, перехватить управление ассистентом локально.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
