Relatório de inteligência

Nadella alerta: bugs achados por IA forçam correções às pressas e mais panes

CEO da Microsoft diz que ferramentas de IA expõem falhas mais rápido do que é possível corrigi-las com segurança e propõe um modelo baseado em logs para controlar os modelos de IA.

INSIGHTEX Editorial Desk

2 min de leitura

Nadella alerta: bugs achados por IA forçam correções às pressas e mais panesRelatório de inteligência

O que aconteceu

O CEO da Microsoft, Satya Nadella, disse esperar mais panes de software porque as ferramentas de IA agora descobrem vulnerabilidades de segurança mais rápido do que as empresas conseguem repará-las com segurança, segundo o TNW | Microsoft. Em uma conversa na quarta-feira, em Nova York, com Andrew Ross Sorkin no DealBook Summit, evento do The New York Times, ele pediu desculpas pela pane do Outlook, que, segundo disse, não teve ligação direta com essa tendência. Depois, na CNBC, em entrevista a Jim Cramer, afirmou que a Microsoft deveria ter testado mais e isolado a falha antes que ela se espalhasse globalmente.

Nadella disse que a correção de um sistema bancário crítico costumava passar por cerca de uma semana de testes. Como os atacantes agora exploram as falhas assim que elas surgem, afirmou, as correções vão direto para produção, o que gera instabilidade. Ele observou que três correções críticas de código aberto haviam chegado no dia em que falava. Disse também que os modelos de IA permitem que praticamente qualquer pessoa atue como um atacante persistente com capacidades de nível estatal.

Sobre segurança da IA, Nadella afirmou que a escala trouxe resultados, mas o alinhamento e a depuração confiável de modelos não vieram junto. Ele propôs o que chamou de arquitetura de confiança. Ela proibiria modelos que raciocinam em uma espécie de código abreviado ilegível para humanos e exigiria registros de raciocínio invioláveis, que outros modelos pudessem verificar. Ele disse que, hoje, quem implanta os sistemas de IA responde pelo que eles fazem, e prevê que as seguradoras vão precificar essa exposição e pedir para ver os logs.

Contexto

A Microsoft tem participações na OpenAI e na Anthropic. Nadella disse que, pelo acordo com a OpenAI, a Microsoft pode usar um modelo de fronteira sem pagar royalties até 2032. Segundo ele, isso permite desenvolver seus próprios modelos MAI, que ficam de três a seis meses atrás da vanguarda usando apenas 5% a 20% da capacidade computacional. A Microsoft também ofereceu programas de desligamento voluntário a 60.000 funcionários, e seu agente Cowork é construído por uma equipe de 11 desenvolvedores.

FonteTNW | Microsoft

O briefing

A semana em tecnologia, em um só e-mail.

As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.