Intelligence-Bericht

Zwei Millionen Köder-Zugangsdaten decken Lecks bei KI-Routern auf

Ein Dragos-Forscher schleuste nachverfolgbare Zugangsdaten in KI-Prompts ein und fand so kompromittierte Anbieter, Reseller mit Logging und ignorierte Datenschutz-Flags.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

Zwei Millionen Köder-Zugangsdaten decken Lecks bei KI-Routern aufIntelligence-Bericht

Was geschehen ist

Der Sicherheitsforscher HD Moore, Chief Research Officer bei Dragos, schickte knapp zwei Millionen KI-Prompts durch ein Netz aus Inferenzanbietern und Resellern. Jeder Prompt enthielt ein eindeutiges Geheimnis, das sich nachverfolgen ließ, wie Ars Technica berichtete. Zu den Ködern gehörten funktionierende AWS-Schlüssel, die mit leeren Konten verknüpft waren, SSH-Passwörter, einmalige URLs und DNS-Namen sowie Verweise auf private Git-Repositories. Jedes Geheimnis wurde in genau einem Prompt an genau einen Anbieter geschickt.

Weil jedes Geheimnis nur einmal verwendet wurde, konnte Moore erkennen, welche Partei es preisgegeben hatte, sobald es wieder auftauchte. Er fand Hinweise darauf, dass Angreifer mindestens drei Hosting-Anbieter kompromittiert und eingehende Anfragen kopiert hatten. Bei einem Einbruch wurden einige hundert der AWS-Köderschlüssel wiederverwendet. Im Verlauf des gesamten Experiments lösten die Schlüssel Zehntausende AWS-API-Aufrufe aus, und Eindringlinge versuchten, Modelle in AWS Bedrock zu aktivieren und eigene IAM-Nutzer hinzuzufügen. Einige günstige Reseller protokollierten zudem Prompts, und die darin enthaltenen Zugangsdaten wurden später von Dritten verwendet.

Moore berichtete außerdem, dass Anbieter Flags für Zero Data Retention und für den Verzicht auf Datenerfassung missachteten. Die Systeme eines chinesischen KI-Labors riefen zwischen Juli und Oktober die geheimen URLs aus mehr als der Hälfte der Prompts ab, die an seine Modelle gingen, darunter etwa zwei Drittel derjenigen, die als datenschutzrelevant markiert waren. US-Hosts, die die Modelle des Labors weiterverkauften, lösten denselben Scraper aus. Ein US-Anbieter rief eine geheime URL mehr als zwei Monate nach einem einzelnen Aufruf noch einmal ab.

Kontext

KI-Router nehmen Prompts von App-Nutzern entgegen und leiten sie an die Inferenz-Engine weiter, die Kriterien wie Preis oder Aufgabe am besten erfüllt. Entwickler müssen so keinen direkten Vertrag mit Anthropic oder OpenAI abschließen. Prompts sind während der Übertragung verschlüsselt, werden aber an jeder Station entschlüsselt. Moore sagte, Hosting im eigenen Haus sei am sichersten, aber teuer. Andernfalls rät er, direkt mit einem erstklassigen Anbieter zusammenzuarbeiten und Upstream-Anbieter selbst auszuwählen, statt Standard-Pools zu akzeptieren.

QuelleArs Technica

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.