Informe de inteligencia

Dos millones de secretos cebo revelan fugas en routers de IA

Un investigador de Dragos sembró credenciales rastreables en prompts de IA y llegó a proveedores vulnerados, revendedores que registran datos y avisos de privacidad ignorados.

INSIGHTEX Editorial Desk

2 min de lectura

Dos millones de secretos cebo revelan fugas en routers de IAInforme de inteligencia

Qué ocurrió

El investigador de seguridad HD Moore, director de investigación de Dragos, envió cerca de dos millones de prompts de IA a través de una red de proveedores de inferencia y revendedores, cada uno con un secreto único que podía rastrear, según informó Ars Technica. El cebo incluía claves de AWS funcionales vinculadas a cuentas vacías, contraseñas SSH, URL y nombres DNS de un solo uso, y referencias a repositorios git privados. Cada secreto se incluyó en un único prompt enviado a un solo proveedor.

Como cada secreto se usó una sola vez, Moore podía saber qué parte lo había expuesto cuando reaparecía. Encontró indicios de que atacantes habían vulnerado al menos tres proveedores de alojamiento y copiado las solicitudes entrantes. En una de las brechas se reutilizaron un par de cientos de las claves de AWS usadas como cebo. En el conjunto del experimento, las claves recibieron decenas de miles de llamadas a la API de AWS, y los intrusos intentaron habilitar modelos en AWS Bedrock y añadir sus propios usuarios IAM. Algunos revendedores de precios bajos también registraron los prompts, y otras personas utilizaron después las credenciales que contenían.

Moore también señaló que los proveedores ignoraban los indicadores de Zero Data Retention y de no recopilación de datos. Los sistemas de un laboratorio de IA chino accedieron a URL secretas en más de la mitad de los prompts enviados a sus modelos entre julio y octubre, incluidos cerca de dos tercios de los marcados como privados. Proveedores estadounidenses que revendían los modelos del laboratorio activaron el mismo rastreador. Un proveedor estadounidense rastreó una URL secreta más de dos meses después de una única llamada.

Contexto

Los routers de IA reciben los prompts de los usuarios de las aplicaciones y los envían al motor de inferencia que mejor se ajuste a criterios como el precio o la tarea, de modo que los desarrolladores no tengan que contratar directamente con Anthropic u OpenAI. Los prompts viajan cifrados, pero se descifran en cada salto. Moore dijo que el alojamiento local es lo más seguro, aunque costoso. En otro caso, aconsejó trabajar directamente con un proveedor de primer nivel y elegir los proveedores upstream en lugar de aceptar los grupos predeterminados.

FuenteArs Technica

El boletín

La semana tecnológica, en un solo correo.

Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.