Intelligence-Bericht

Kokoro: Forscher übernehmen Hugging-Face-Konto per Domain

Ein Forscherteam kaperte das Publisher-Konto eines weit verbreiteten Open-Weight-Sprachmodells und zeigte, wie unbemerkt manipulierte Gewichte zu Nutzern gelangen könnten.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

Kokoro: Forscher übernehmen Hugging-Face-Konto per DomainIntelligence-Bericht

Was passiert ist

Sicherheitsforscher haben die Kontrolle über das Hugging-Face-Publisher-Konto hinter Kokoro, einem Open-Weight-Text-to-Speech-Modell, erlangt, indem sie ausnutzten, dass die Plattform nicht prüft, ob Konten bei ihren ursprünglichen Inhabern bleiben, wie BleepingComputer berichtet. Forscher Alon Hertz sagte, sein Team habe hexgrad.com registriert, eine Domain, die in der öffentlichen Datei DONATE.md des Projekts aufgeführt ist, und anschließend damit das Passwort des Kontos zurückgesetzt.

In einem kontrollierten Test passte das Team die Gewichte von Kokoro in 87 Sekunden auf einer Gaming-GPU per Fine-Tuning so an, dass das Modell Sprache erzeugte, die nicht zum eingegebenen Text passte, während der Anwendungscode unverändert blieb. Hertz sagte, das veränderte Modell sei nur lokal ausgeführt und nie hochgeladen worden, da eine Veröffentlichung Produktivsysteme hätte gefährden können. Die Forscher merkten an, dass Änderungen, die sich auf die Gewichte beschränken, keinen schädlichen Code und keine Signatur hinterlassen, die Scanner erkennen könnten.

Hertz sagte, Tests von einem separaten Konto aus deuteten darauf hin, dass Hugging Face ein solches Update nicht als verdächtig markieren würde. Er argumentierte, die Plattform prüfe weder ihre Publisher noch die Modelle und Datensätze, die diese hochladen. Er meldete das Problem an Hugging Face und erhielt keine Antwort; das Unternehmen reagierte auch nicht auf eine Anfrage von BleepingComputer nach einer Stellungnahme.

Hintergrund

Kokoro unterstützt mehrere Sprachen und bietet mehr als 50 Stimmvorgaben. Hexgrad, der Entwickler dahinter, hat seit April 2025 keine Updates mehr veröffentlicht, und auch sein GitHub-Repository und das PyPI-Paket blieben etwa zur selben Zeit still. Die monatlichen Downloads auf Hugging Face liegen weiterhin bei knapp 13 Millionen, und Google, NVIDIA und Intel unterstützen das Modell in ihren Entwickler-Tools, während AMD und Amazon Web Services Anleitungen für den Einsatz in KI-Agenten-Workflows veröffentlicht haben.

GitHub-Profil

Google-Profil

QuelleBleepingComputer

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.