Intelligence-Bericht

Amazon: KI-Agenten aus China nutzen MONAI-Label-Zero-Day

Amazon hat autonome Agenten auf Basis des Open-Source-Frameworks Cairn entdeckt, die über eine ungepatchte Lücke in einem Annotationswerkzeug für medizinische Bilder Universitätsserver kompromittierten.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

Amazon: KI-Agenten aus China nutzen MONAI-Label-Zero-DayIntelligence-Bericht

Was passiert ist

Ein mit China in Verbindung gebrachter Angreifer hat autonome KI-Agenten eingesetzt, um eine bislang unbekannte Schwachstelle in MONAI Label zu finden und auszunutzen, einem Open-Source-Werkzeug zur KI-gestützten Annotation medizinischer Bilder. Das berichtete SecurityWeek unter Berufung auf Amazon. Das Threat-Intelligence-Team von Amazon bemerkte die Aktivität im September über eine offen zugängliche, nicht authentifizierte Cairn-Installation, ein Framework für KI-gestützte Penetrationstests. Diese Instanz offenbarte sowohl die Prompts des Betreibers als auch die Ausgaben der Agenten.

Die Aufzeichnungen betrafen eine Kampagne von etwa 48 Stunden gegen IP-Adressen von Universitäten in Ostasien außerhalb des chinesischen Festlands, wobei die Agenten angewiesen waren, Shell-Zugriff zu erlangen. Nachdem die Agenten die API eines Ziels kartiert hatten, entdeckten sie eine Path-Traversal-Schwachstelle in der Upload-Funktion der Anwendung und konnten innerhalb von etwa 11 Minuten beliebige Dateien auf dem Server schreiben. In einer späteren Sitzung platzierten sie eine Python-Reverse-Shell in einer Datei, die bei jedem Start des Interpreters ausgeführt wird, und erlangten schließlich Root-Rechte.

Amazon erklärte, mit hoher Sicherheit davon auszugehen, dass es sich bei der Lücke um einen Zero-Day handelt. Zudem schloss Amazon, dass der Angreifer denselben Fehler genutzt hatte, um einen Server an einer zweiten Universität zu kompromittieren, über den der Betreiber anschließend per Proxy einen Tunnel aufbaute, um die Agenten auf weitere Geräte anzusetzen. Die Entwickler von MONAI Label stufen den Fehler für die Versionen 0.8.5 und früher, bei denen die Authentifizierung standardmäßig deaktiviert ist, als kritisch ein. Eine Korrektur soll mit dem nächsten Release erscheinen.

Kontext

MONAI Label dient der KI-gestützten Kennzeichnung medizinischer Bilder, und Cairn ist ein Open-Source-Framework für KI-gestützte Penetrationstests. Amazon stützte seine Einschätzung als Zero-Day darauf, dass es für das Projekt weder eine Korrektur noch ein Issue, einen Sicherheitshinweis oder einen früheren Datenbankeintrag gab. Die Aktivität ordnete Amazon mit mittlerer Sicherheit einer nicht identifizierten Gruppe mit China-Bezug zu und verwies dabei auf die Sprache der Prompts, die Zeitzone der Skripte und den wahrscheinlichen strategischen Wert der angegriffenen Universitäten.

QuelleSecurityWeek

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.