O que aconteceu
Dan Hendrycks, que dirige o Center for AI Safety, defendeu na quarta-feira uma suspensão por prazo indeterminado dos maiores treinamentos de IA de fronteira durante o DealBook Summit, evento do New York Times realizado em Nova York, segundo o TNW | Agi. Max Hodak, cofundador da Neuralink e hoje à frente da Science Corporation, rebateu que fiscalizar uma proibição desse tipo exigiria uma vigilância abrangente da internet. Michael Barbaro, do The Daily, mediou o painel sobre AGI.
Hendrycks disse que seu plano isentaria sistemas específicos, como modelos de voz e o AlphaFold, da DeepMind. Segundo ele, os laboratórios ainda poderiam vender inferência e aproveitar o tempo para tornar os modelos mais confiáveis e seguros e para fechar brechas de jailbreak e backdoors. Ele afirmou que já havia preferido regras técnicas específicas, mas passou a uma abordagem mais contundente depois que as empresas resistiram a elas por anos. Mati Staniszewski, da ElevenLabs, disse que uma pausa poderia funcionar com alinhamento global, embora tenha questionado se isso é alcançável.
Hodak disse que os principais modelos atuais já atendem à sua definição de AGI. Ele argumentou que a legislação antitruste deveria restringir os laboratórios de fronteira à venda de inteligência e mantê-los fora de áreas como medicamentos e automóveis. Lila Ibrahim, diretora de prontidão em IA do Google DeepMind, afirmou que a escolha não é excludente e que a segurança não pode ser acrescentada no fim. Clem Delangue, da Hugging Face, disse que sua principal preocupação é a concentração de talento, poder computacional e riqueza pela IA.
Contexto
O painel ocorreu um dia antes do início previsto das negociações das ações da Anthropic. Hendrycks repetiu críticas de uma declaração organizada por seu grupo contra a empresa, que não tinha representante no painel. O documento do IPO da Anthropic diz que ela não pretende permitir que o Claude desenvolva integralmente seus sucessores sem supervisão humana significativa. A Hugging Face, que a Nvidia está comprando, enfrentou recentemente uma violação de quatro dias causada por agentes de pesquisa da OpenAI.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
