Что произошло
Связанная с Китаем хакерская группа использовала автономных ИИ-агентов, чтобы найти и эксплуатировать ранее неизвестную уязвимость в MONAI Label, инструменте с открытым кодом для разметки медицинских изображений с помощью ИИ, сообщили в Amazon, об этом пишет SecurityWeek. Команда Amazon по анализу угроз заметила эту активность в сентябре благодаря открытому, не защищённому аутентификацией развёртыванию Cairn, фреймворка для проведения тестов на проникновение с помощью ИИ. Этот экземпляр раскрыл как промпты оператора, так и результаты работы агентов.
Записи охватывали кампанию длительностью около 48 часов против IP-адресов университетов в Восточной Азии за пределами материкового Китая; агентам было поручено получить доступ к командной оболочке. Изучив API одной из целей, агенты обнаружили уязвимость обхода каталогов в функции загрузки файлов приложения и примерно за 11 минут смогли записывать на сервер произвольные файлы. В более поздней сессии они поместили обратную оболочку на Python в файл, выполняемый при каждом запуске интерпретатора, и в итоге получили root-доступ.
В Amazon заявили, что с высокой степенью уверенности считают эту уязвимость неизвестной ранее, то есть нулевого дня. Там также предположили, что та же группа использовала эту ошибку для взлома сервера во втором университете, в который оператор затем подключился через прокси, чтобы направить агентов на другие устройства. Разработчики MONAI Label оценили ошибку как критическую для версий 0.8.5 и более ранних, в которых аутентификация по умолчанию отключена. Исправление появится в следующем релизе.
Контекст
MONAI Label создан для разметки медицинских изображений с помощью ИИ, а Cairn — это фреймворк с открытым кодом для тестирования на проникновение на основе ИИ. Вывод о том, что это уязвимость нулевого дня, Amazon сделала на основании отсутствия у проекта какого-либо исправления, обращения, бюллетеня или более ранней записи в базах данных. Активность была связана с неустановленной группировкой китайского происхождения с умеренной уверенностью: Amazon сослалась на язык промптов, часовой пояс скриптов и вероятную стратегическую ценность атакованных университетов.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
