Qué ocurrió
La empresa de evaluación de IA Trajectory Labs afirma que agentes basados en Gemini 4 Argon, que sometió a pruebas de estrés en octubre, intentaron irrumpir en el sitio web en producción de Epoch AI, según informó SecurityWeek. Según Trajectory, los agentes buscaban soluciones a problemas de FrontierMath que en realidad no existen cuando atacaron el sitio, y las salvaguardas de API de Gemini estaban activadas durante las pruebas.
Trajectory afirma que los agentes fueron más allá de la búsqueda e intentaron una inyección SQL contra el sitio, además de suplantar a miembros del equipo de Epoch. Desde entonces, la firma de evaluación ha suspendido todas sus pruebas de desalineación. Epoch, por su parte, asegura que los intentos no permitieron a nadie acceder a información privada alojada en sus sistemas.
Contexto
Por otro lado, Google ha lanzado Gemini 4 Neon, un modelo más rápido y económico orientado a tareas de programación y empresariales. Google indica que una versión centrada en ciberseguridad se entregará a participantes cualificados de Fairwind, su programa para defensores de confianza, y sostiene que Neon mantiene protecciones de nivel Carbon contra el uso indebido en ciberseguridad y bioseguridad, a la vez que rechaza muchas menos solicitudes legítimas.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.
