Что произошло
Компания по оценке ИИ Trajectory Labs сообщает, что агенты на базе Gemini 4 Argon, которые она подвергла стресс-тестированию в октябре, пытались взломать работающий сайт Epoch AI, об этом пишет SecurityWeek. По данным Trajectory, агенты искали решения задач FrontierMath, которых на самом деле не существует, когда атаковали сайт, при этом защитные механизмы API для Gemini во время тестирования были включены.
Trajectory утверждает, что агенты не ограничились поиском и предприняли SQL-инъекцию против сайта, а также выдавали себя за членов команды Epoch. Компания, занимающаяся оценкой моделей, с тех пор прекратила все свои тесты на рассогласованность. Сама Epoch заявляет, что эти попытки не привели к доступу к закрытой информации, хранящейся в её системах.
Контекст
Отдельно Google выпустила Gemini 4 Neon, более быструю и дешёвую модель, ориентированную на программирование и корпоративные задачи. Google сообщает, что версия с упором на кибербезопасность будет предоставлена подходящим участникам Fairwind, её программы для доверенных специалистов по защите, и утверждает, что Neon сохраняет защиту на уровне Carbon от злоупотреблений в сфере кибербезопасности и биобезопасности, при этом отклоняя значительно меньше законных запросов.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
