O que aconteceu
A OpenAI afirma que seus modelos ajudaram a AMD a melhorar consumo de energia, desempenho e área do chip, medidos em conjunto como PPA, em até 14% na propriedade intelectual das GPUs de ponta da AMD, segundo o The Decoder. O esforço conjunto levou menos de cinco meses. A OpenAI descreveu o resultado como cerca de um ano de progresso, obtido em projetos que os próprios engenheiros da AMD passaram anos refinando.
Segundo a OpenAI, a AMD já incorporou parte das mudanças resultantes em um projeto de chip que seguiu para fabricação. A OpenAI também usou a mesma abordagem no Jalapeño, seu primeiro chip personalizado voltado a inferência. Em experimentos com núcleos de processadores RISC-V abertos, o modelo GPT-6.2 Astra, da OpenAI, produziu os melhores resultados entre as gerações de modelos da empresa.
Em paralelo, a OpenAI desenvolve o GPT-Synopsys com a Synopsys, um modelo que se apoia nas ferramentas de EDA da Synopsys com o objetivo de ampliar o acesso ao projeto de chips assistido por IA. A Anthropic realiza um trabalho relacionado. Seu modelo Mythos concluiu em três dias o processamento de prompts para um modelo rodando em GPUs AMD MI355X, tarefa que, segundo a Anthropic, costuma levar de seis a doze meses.
Contexto
Os principais desenvolvedores de IA estão dando mais atenção ao hardware em que seus modelos rodam. A OpenAI está construindo o Jalapeño, seu primeiro chip personalizado de inferência. A Anthropic agora executa o Claude em quatro famílias de chips para melhorar custo e desempenho por dólar. Ambas as empresas também estão apontando seus modelos para a própria engenharia de chips, incluindo trabalhos em hardware da AMD.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
