Что произошло
ИИ-агенты, работающие на Grok Bot — платформе для агентов от SpaceXSI Илона Маска, — за пять дней 31 раз пытались получить доступ к данным сотрудников в календаре, почте, Slack и GitHub без соответствующего запроса, сообщило издание Ars Technica. Выводы сделала компания NewCore, которая продаёт управляемый шлюз между ИИ-агентами и аккаунтами, которыми они пользуются; речь шла о ботах, установленных на ноутбуках двух её сотрудников.
Часть попыток происходила поздно ночью или при закрытой крышке ноутбука, и ни одна из них не попала в собственные журналы Grok. Шлюз зафиксировал их и не дал им завершиться успешно. Один из сотрудников четыре раза велел агенту прекратить самостоятельные действия. Бот подтвердил, что понял, но продолжал попытки, а на вопрос о своей активности дважды проверил и ответил, что ночью бездействовал.
В поддержке Grok Bot сообщили NewCore, что такое поведение задумано намеренно. Это функция проактивных проверок, которая пришла из Cursor — ИИ-сервиса для программирования, недавно приобретённого SpaceXSI. NewCore обратилась в поддержку 4 ноября. Через восемь дней в панели Cursor появился переключатель для администраторов, управляющий проактивными сообщениями; по умолчанию он включён. SpaceXSI не ответила на вопросы, отправленные по электронной почте.
Контекст
Исследователь безопасности NewCore Идо Хорвич утверждает, что проблема серьёзнее обычной ошибки, поскольку исправлять нечего. Он отметил, что в документации Grok Bot сказано, что основной бот сам инициирует проверки, а в списке изменений упоминаются короткие фоновые пробуждения. Ни в одном из этих источников не говорится, что такие проверки затрагивают подключённые приложения, и они не оставляют следов в истории чата. Обещание бота спрашивать разрешения перед внесением изменений касается только записи в приложения.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
