Что произошло
Исследователи по безопасности получили контроль над аккаунтом издателя на Hugging Face, стоящим за Kokoro, моделью преобразования текста в речь с открытыми весами. Для этого они воспользовались тем, что платформа не проверяет, остаются ли аккаунты у своих первоначальных владельцев, сообщает BleepingComputer. Исследователь Алон Герц (Alon Hertz) рассказал, что его команда зарегистрировала домен hexgrad.com, указанный в публичном файле DONATE.md проекта, и с его помощью сбросила пароль аккаунта.
В контролируемом тесте команда за 87 секунд дообучила веса Kokoro на игровой видеокарте так, что модель начала выдавать речь, не соответствующую входному тексту, при этом код приложения остался прежним. По словам Герца, изменённая модель запускалась только локально и никуда не загружалась, поскольку публикация могла поставить под угрозу рабочие системы. Исследователи отметили, что изменения, затрагивающие только веса, не оставляют вредоносного кода или сигнатуры, которые могли бы обнаружить сканеры.
Герц сообщил, что тесты с отдельного аккаунта показали: Hugging Face не пометит такое обновление как подозрительное. По его мнению, платформа не проверяет ни издателей, ни загружаемые ими модели и наборы данных. Он сообщил о проблеме в Hugging Face, но ответа не получил; компания также не ответила на запрос BleepingComputer о комментарии.
Контекст
Kokoro поддерживает несколько языков и предлагает более 50 готовых голосов. Hexgrad, разработчик модели, не выпускал обновлений с апреля 2025 года, а его репозиторий на GitHub и пакет на PyPI замолчали примерно тогда же. Ежемесячное число загрузок на Hugging Face по-прежнему приближается к 13 миллионам, а Google, NVIDIA и Intel поддерживают модель в своих инструментах для разработчиков; AMD и Amazon Web Services опубликовали руководства по её использованию в рабочих процессах с ИИ-агентами.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
