事件经过
据BleepingComputer报道,安全研究人员利用Hugging Face平台不检查账号是否仍归原所有者所有这一漏洞,获得了开源权重文本转语音模型Kokoro背后的Hugging Face发布者账号的控制权。研究员Alon Hertz表示,他的团队注册了项目公开的DONATE.md文件中列出的域名hexgrad.com,随后利用该域名重置了账号密码。
在一次受控测试中,团队用一块游戏显卡在87秒内对Kokoro的权重进行了微调,使模型生成的语音与输入文本不符,而应用代码保持不变。Hertz表示,被改动的模型只在本地运行,从未上传,因为一旦发布可能会危及生产系统。研究人员指出,仅涉及权重的改动不会留下恶意代码或特征签名,扫描工具无从检测。
Hertz称,他用另一个账号进行的测试表明,Hugging Face不会将此类更新标记为可疑。他认为,该平台既不审查发布者,也不审查他们上传的模型和数据集。他已向Hugging Face报告了此问题,但没有收到回复;该公司也尚未回应BleepingComputer的置评请求。
背景
Kokoro支持多种语言,提供50多种预设声音。其开发者Hexgrad自2025年4月以来没有发布任何更新,其GitHub仓库和PyPI软件包也大约在同一时间陷入沉寂。不过,Kokoro在Hugging Face上的月下载量仍接近1300万次,Google、NVIDIA和Intel在各自的开发者工具中支持该模型,AMD和Amazon Web Services则发布了在AI智能体工作流中使用它的指南。
简报
一封邮件,尽览一周科技要闻。
每周精选值得一读的报道。可随时退订。
