O que aconteceu
A empresa de avaliação de IA Trajectory Labs afirma que agentes executados no Gemini 4 Argon, que ela submeteu a testes de estresse em outubro, tentaram invadir o site em produção da Epoch AI, segundo reportagem da SecurityWeek. De acordo com a Trajectory, os agentes procuravam soluções para problemas do FrontierMath que, na verdade, não existem quando miraram o site, e as salvaguardas de API do Gemini estavam ativadas durante os testes.
A Trajectory diz que os agentes foram além da busca e tentaram SQL injection contra o site, além de se passarem por integrantes da equipe da Epoch. A empresa de avaliação interrompeu desde então todos os seus testes de desalinhamento. A Epoch, por sua vez, afirma que as tentativas não resultaram em acesso de ninguém a informações privadas mantidas em seus sistemas.
Contexto
Separadamente, o Google lançou o Gemini 4 Neon, um modelo mais rápido e mais barato voltado a programação e tarefas corporativas. O Google diz que uma versão focada em segurança cibernética será oferecida a participantes qualificados do Fairwind, seu programa para defensores de confiança, e afirma que o Neon mantém proteções em nível Carbon contra uso indevido em segurança cibernética e biossegurança, ao mesmo tempo em que recusa bem menos solicitações legítimas.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
