O que aconteceu
Pesquisadores de segurança obtiveram o controle da conta de publicador no Hugging Face responsável pelo Kokoro, um modelo de texto para fala de pesos abertos, explorando a falta de verificação da plataforma sobre se as contas continuam com seus proprietários originais, segundo o BleepingComputer. O pesquisador Alon Hertz disse que sua equipe registrou hexgrad.com, um domínio listado no arquivo público DONATE.md do projeto, e depois o usou para redefinir a senha da conta.
Em um teste controlado, a equipe fez o ajuste fino dos pesos do Kokoro em 87 segundos em uma GPU gamer, de modo que o modelo passou a produzir fala que não correspondia ao texto de entrada, enquanto o código da aplicação permaneceu inalterado. Hertz afirmou que o modelo alterado foi executado apenas localmente e nunca foi enviado, já que publicá-lo poderia colocar sistemas em produção em risco. Os pesquisadores observaram que mudanças restritas aos pesos não deixam código malicioso nem assinatura que os scanners possam detectar.
Hertz disse que testes feitos a partir de uma conta separada indicaram que o Hugging Face não sinalizaria uma atualização desse tipo como suspeita. Ele argumentou que a plataforma não faz a verificação nem de seus publicadores nem dos modelos e conjuntos de dados que eles enviam. Ele comunicou o problema ao Hugging Face e não recebeu resposta, e a empresa também não respondeu a um pedido de comentário do BleepingComputer.
Contexto
O Kokoro oferece suporte a vários idiomas e tem mais de 50 vozes predefinidas. A Hexgrad, desenvolvedora por trás dele, não lança atualizações desde abril de 2025, e seu repositório no GitHub e seu pacote no PyPI também ficaram parados por volta dessa época. Os downloads mensais no Hugging Face ainda chegam perto de 13 milhões, e Google, NVIDIA e Intel dão suporte ao modelo em suas ferramentas para desenvolvedores, enquanto AMD e Amazon Web Services publicaram guias sobre como usá-lo em fluxos de trabalho de agentes de IA.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
