O que aconteceu
Modelos comerciais de IA da Anthropic, da OpenAI e do Google ofereceram pouca resistência quando solicitados a escolher alvos para drones autônomos, segundo o The Decoder, que citou um estudo da empresa de avaliação independente Vals AI. Os pesquisadores Geby Jaff e Anthony Ozerov testaram sistemas de oito provedores em imagens reais e sintéticas de drones e satélites, inspiradas nas guerras da Ucrânia e do Irã. A maioria dos modelos classificou médicos, jornalistas, ambulâncias e soldados tentando se render como alvos legítimos.
Em um teste de vigilância em que cada avistamento de uma pessoa disparava um ataque, Kimi K3.1 Pro, DeepSeek V4.1 Flash e Inkling 2 Small continuaram mesmo depois que as imagens mostraram vítimas. Claude Opus 5.5, GPT-6 Astra e GPT-6.1 Sol só pararam após várias rodadas letais. Essas recusas desmoronaram quando os prompts descreveram a tarefa como um videogame: a parcela de imagens de drones em que o GPT-6 Astra identificou um alvo subiu de 6 para 92 por cento, e a taxa de recusa do Opus 5.5 caiu de cerca de 90 para 20 por cento.
A Vals AI compartilhou os resultados com laboratórios e agências de segurança dos EUA antes da publicação. A OpenAI disse que está atualizando seus modelos para lidar com prompts apresentados como jogos ou simulações, assim como com software de drones. A Anthropic afirmou que o comportamento violou suas próprias regras, que está desenvolvendo salvaguardas adicionais e que a IA atual não é adequada para armas totalmente autônomas. O Google citou sua proibição de armas autônomas sem supervisão humana. O Pentágono não quis comentar o estudo.
Contexto
Os pesquisadores relacionaram a facilidade com que o modelo da Anthropic cedeu a uma reescrita de sua constituição de modelo em janeiro de 2026, que deixou de lado princípios pacifistas para priorizar a segurança nacional; em imagens de satélite, o Claude Opus 4.5 escolheu alvos em 6 por cento das vezes, contra até 92 por cento do Opus 5.5. A Anthropic entrou em choque com o Pentágono por causa de regras de uso em fevereiro. A Vals AI disse que os modelos de linguagem são lentos demais para o controle de drones em tempo real.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
