Qué ha pasado
OpenAI ha reforzado de forma sustancial las protecciones que mantienen el razonamiento interno de sus modelos GPT-6.2 Astra y GPT-6.2 Sol fuera del alcance de los atacantes, según informó The Decoder. De acuerdo con la compañía, un ejercicio de red teaming adaptativo de caja negra en el que seis modelos atacantes se enfrentaron a sus sistemas mostró que la extracción exitosa de razonamiento protegido a partir de solicitudes anteriores pasó del 54,0 por ciento en GPT-6 Astra al 0,2 por ciento en GPT-6.2 Astra.
En los ataques dirigidos a solicitudes que aún están en curso, OpenAI indicó que la tasa de éxito bajó del 22,9 al 0,9 por ciento. Las salvaguardas actúan en dos frentes. Para las solicitudes individuales, la compañía combina un entrenamiento específico del modelo con filtros que examinan los mensajes y las llamadas a herramientas, tanto entrantes como salientes, además de restricciones en la API que impiden que los modelos más antiguos lean el razonamiento protegido.
Para contrarrestar las campañas coordinadas de destilación, OpenAI afirmó que suspende cada semana entre miles y decenas de miles de cuentas. La compañía añadió que ahora está extendiendo una selección de las mejoras al anterior modelo GPT-6 Astra, de modo que el sistema más antiguo también incorpore parte de la nueva protección.
Contexto
OpenAI no está sola en esta lucha. Anthropic también ha combatido ataques sistemáticos de destilación y, igualmente, ha bloqueado decenas de miles de cuentas para limitar el robo del razonamiento interno de sus modelos; según se ha informado, sus esfuerzos tienen éxito en entre el 90 y el 99 por ciento de los casos. Anthropic ha instado además a la industria y a los responsables políticos a coordinar su respuesta ante este problema.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.
