Intelligence-Bericht

OpenAI senkt Reasoning-Extraktion bei GPT-6.2 Astra auf 0,2 %

Mehrstufige Schutzmaßnahmen und wöchentliche Massensperrungen von Konten sollen verhindern, dass Rivalen das verborgene Reasoning der neuesten OpenAI-Modelle per Distillation abgreifen.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

OpenAI senkt Reasoning-Extraktion bei GPT-6.2 Astra auf 0,2 %Intelligence-Bericht

Was passiert ist

OpenAI hat die Schutzmaßnahmen, die das interne Reasoning seiner Modelle GPT-6.2 Astra und GPT-6.2 Sol vor dem Zugriff von Angreifern bewahren, deutlich verstärkt, berichtet The Decoder. Laut dem Unternehmen zeigte adaptives Black-Box-Red-Teaming, bei dem sechs Angreifermodelle gegen die Systeme antraten, dass der erfolgreiche Abgriff geschützten Reasonings aus früheren Anfragen von 54,0 Prozent bei GPT-6 Astra auf 0,2 Prozent bei GPT-6.2 Astra gesunken ist.

Bei Angriffen auf noch laufende Anfragen sank die Erfolgsquote nach Angaben von OpenAI von 22,9 auf 0,9 Prozent. Die Schutzmaßnahmen greifen an zwei Stellen. Für einzelne Anfragen kombiniert das Unternehmen gezieltes Modelltraining mit Filtern, die eingehende und ausgehende Nachrichten sowie Tool-Aufrufe prüfen, und mit API-Beschränkungen, die verhindern, dass ältere Modelle geschütztes Reasoning lesen.

Gegen koordinierte Distillation-Kampagnen sperrt OpenAI nach eigenen Angaben jede Woche zwischen Tausenden und Zehntausenden von Konten. Das Unternehmen fügte hinzu, dass es nun eine Auswahl der Verbesserungen auf das frühere Modell GPT-6 Astra ausweite, sodass auch das ältere System einen Teil des neuen Schutzes erhält.

Hintergrund

OpenAI steht mit diesem Kampf nicht allein da. Auch Anthropic wehrt sich gegen systematische Distillation-Angriffe und hat ebenfalls Zehntausende von Konten gesperrt, um den Diebstahl des internen Reasonings seiner Modelle einzudämmen; den Berichten zufolge sind diese Bemühungen in 90 bis 99 Prozent der Fälle erfolgreich. Anthropic hat zudem Industrie und Politik aufgefordert, ihre Reaktion auf das Problem abzustimmen.

Astra-Profil

QuelleThe Decoder

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.