Аналитический отчёт

Исследователи захватили аккаунт Kokoro на Hugging Face, купив его домен

Команда получила контроль над аккаунтом издателя популярной модели синтеза речи с открытыми весами и показала, как незаметно изменённые веса могут дойти до конечных пользователей.

INSIGHTEX Editorial Desk

2 мин чтения

Исследователи захватили аккаунт Kokoro на Hugging Face, купив его доменАналитический отчёт

Что произошло

Исследователи по безопасности получили контроль над аккаунтом издателя на Hugging Face, стоящим за Kokoro, моделью преобразования текста в речь с открытыми весами. Для этого они воспользовались тем, что платформа не проверяет, остаются ли аккаунты у своих первоначальных владельцев, сообщает BleepingComputer. Исследователь Алон Герц (Alon Hertz) рассказал, что его команда зарегистрировала домен hexgrad.com, указанный в публичном файле DONATE.md проекта, и с его помощью сбросила пароль аккаунта.

В контролируемом тесте команда за 87 секунд дообучила веса Kokoro на игровой видеокарте так, что модель начала выдавать речь, не соответствующую входному тексту, при этом код приложения остался прежним. По словам Герца, изменённая модель запускалась только локально и никуда не загружалась, поскольку публикация могла поставить под угрозу рабочие системы. Исследователи отметили, что изменения, затрагивающие только веса, не оставляют вредоносного кода или сигнатуры, которые могли бы обнаружить сканеры.

Герц сообщил, что тесты с отдельного аккаунта показали: Hugging Face не пометит такое обновление как подозрительное. По его мнению, платформа не проверяет ни издателей, ни загружаемые ими модели и наборы данных. Он сообщил о проблеме в Hugging Face, но ответа не получил; компания также не ответила на запрос BleepingComputer о комментарии.

Контекст

Kokoro поддерживает несколько языков и предлагает более 50 готовых голосов. Hexgrad, разработчик модели, не выпускал обновлений с апреля 2025 года, а его репозиторий на GitHub и пакет на PyPI замолчали примерно тогда же. Ежемесячное число загрузок на Hugging Face по-прежнему приближается к 13 миллионам, а Google, NVIDIA и Intel поддерживают модель в своих инструментах для разработчиков; AMD и Amazon Web Services опубликовали руководства по её использованию в рабочих процессах с ИИ-агентами.

Профиль на GitHub

Профиль Google

ИсточникBleepingComputer

Обзор

Неделя в технологиях в одном письме.

Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.