O que aconteceu
A OpenAI passou a permitir que quatro grupos externos de auditoria examinem presencialmente, em seus escritórios, seus sistemas internos de IA, informou o The Decoder. As organizações são Apollo Research, METR, Transluce e Goodfire. Segundo a OpenAI, o programa amplia uma revisão presencial anterior de como a empresa monitora seus sistemas e cumpre compromissos assumidos no âmbito do White House Accord on Super Intelligence.
Dependendo da tarefa, os auditores podem trabalhar com modelos que ainda não foram lançados, além de código-fonte, dados de treinamento e ferramentas de monitoramento, e podem conversar com os desenvolvedores em caráter confidencial. A Apollo Research investiga se os modelos agem de forma encoberta contra a intenção dos desenvolvedores, a METR analisa comportamentos indesejáveis dos modelos durante a maior rodada de treinamento por aprendizado por reforço da OpenAI, a Goodfire estuda os processos internos dos modelos e a Transluce avalia as verificações de segurança feitas após o treinamento.
Um conselho de segurança independente supervisiona o programa, recebe os relatórios sem edições e resolve disputas. Os auditores divulgam suas conclusões por conta própria, mas a OpenAI pode retirar material confidencial e reter relatórios enquanto trata os riscos. A OpenAI e a Transluce planejam uma revisão de acompanhamento de oito semanas no início de 2027, e a empresa avalia novas revisões que abranjam cultura e processos internos.
Contexto
O programa segue uma revisão presencial anterior dos sistemas de monitoramento da OpenAI, na qual, segundo a empresa, a nova iniciativa se baseia. Ele também está ligado a compromissos assumidos no âmbito do White House Accord on Super Intelligence. A OpenAI afirmou esperar algum atrito nas etapas iniciais, e as cláusulas de edição e adiamento deixam em aberto o grau de independência que a supervisão terá na prática.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
