Ce qui s'est passé
Le chercheur en sécurité HD Moore, directeur de la recherche chez Dragos, a envoyé près de deux millions de prompts d'IA à travers un réseau de fournisseurs d'inférence et de revendeurs, chacun contenant un secret unique qu'il pouvait tracer, a rapporté Ars Technica. Les appâts comprenaient des clés AWS fonctionnelles liées à des comptes vides, des mots de passe SSH, des URL et des noms DNS à usage unique, ainsi que des références à des dépôts git privés. Chaque secret figurait dans un seul prompt envoyé à un seul fournisseur.
Comme chaque secret n'était utilisé qu'une seule fois, Moore pouvait déterminer quelle partie l'avait exposé lorsqu'il refaisait surface. Il a relevé des signes indiquant que des attaquants avaient piraté au moins trois fournisseurs d'hébergement et copié les requêtes entrantes. Lors de l'une de ces intrusions, quelques centaines des clés AWS appâts ont été réutilisées. Sur l'ensemble de l'expérience, les clés ont généré des dizaines de milliers d'appels à l'API AWS, et les intrus ont tenté d'activer des modèles dans AWS Bedrock et d'ajouter leurs propres utilisateurs IAM. Certains revendeurs à bas prix journalisaient aussi les prompts, et les identifiants qu'ils contenaient ont ensuite été utilisés par d'autres.
Moore a également signalé que des fournisseurs ne respectaient pas les options Zero Data Retention et de non-collecte de données. Les systèmes d'un laboratoire d'IA chinois ont récupéré des URL secrètes dans plus de la moitié des prompts envoyés à ses modèles entre juillet et octobre, dont environ les deux tiers de ceux marqués comme confidentiels. Des hébergeurs américains revendant les modèles de ce laboratoire ont déclenché le même scraper. Un fournisseur américain a exploré une URL secrète plus de deux mois après un seul appel.
Contexte
Les routeurs d'IA reçoivent les prompts des utilisateurs d'applications et les envoient vers le moteur d'inférence le mieux adapté selon des critères comme le prix ou la tâche, afin que les développeurs n'aient pas à contracter directement avec Anthropic ou OpenAI. Les prompts sont chiffrés en transit, mais déchiffrés à chaque saut. Selon Moore, l'hébergement sur site est le plus sûr, mais coûteux. À défaut, il recommande de travailler directement avec un fournisseur de premier plan et de choisir soi-même les fournisseurs en amont plutôt que d'accepter les groupes par défaut.
Le briefing
La semaine tech, en un seul e-mail.
Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.
