Ce qui s'est passé
OpenAI a considérablement renforcé les protections qui empêchent le raisonnement interne de ses modèles GPT-6.2 Astra et GPT-6.2 Sol de tomber entre les mains d'attaquants, a rapporté The Decoder. Selon l'entreprise, un exercice de red teaming adaptatif en boîte noire opposant six modèles attaquants à ses systèmes a montré que le taux de réussite de l'extraction du raisonnement protégé à partir de requêtes antérieures était passé de 54,0 % sur GPT-6 Astra à 0,2 % sur GPT-6.2 Astra.
Pour les attaques visant des requêtes encore en cours, OpenAI indique que le taux de réussite est passé de 22,9 % à 0,9 %. Les protections opèrent sur deux fronts. Pour les requêtes individuelles, l'entreprise associe un entraînement ciblé des modèles à des filtres qui contrôlent les messages et les appels d'outils entrants et sortants, ainsi qu'à des restrictions d'API qui empêchent les anciens modèles de lire le raisonnement protégé.
Pour contrer les campagnes de distillation coordonnées, OpenAI affirme suspendre chaque semaine de plusieurs milliers à plusieurs dizaines de milliers de comptes. L'entreprise ajoute étendre désormais une sélection de ces améliorations à l'ancien modèle GPT-6 Astra, afin que ce système plus ancien bénéficie lui aussi d'une partie de la protection renforcée.
Contexte
OpenAI n'est pas seule dans ce combat. Anthropic lutte elle aussi contre des attaques de distillation systématiques et a de la même façon banni des dizaines de milliers de comptes pour limiter le vol du raisonnement interne de ses modèles, ses efforts réussissant, selon les informations disponibles, dans 90 à 99 % des cas. Anthropic a en outre appelé l'industrie et les décideurs politiques à coordonner leur réponse à ce problème.
Le briefing
La semaine tech, en un seul e-mail.
Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.
