Что произошло
По словам OpenAI, её модели помогли AMD улучшить энергопотребление, производительность и площадь кристалла, которые вместе измеряются как PPA, на целых 14 процентов во флагманской интеллектуальной собственности AMD в области GPU, сообщает The Decoder. Совместная работа заняла менее пяти месяцев. OpenAI охарактеризовала результат как примерно год прогресса, достигнутый на проектах, которые инженеры AMD совершенствовали годами.
По данным OpenAI, AMD уже внесла часть полученных изменений в проект чипа, который передан в производство. OpenAI также применила тот же подход к Jalapeño — своему первому собственному чипу для инференса. В экспериментах с открытыми процессорными ядрами RISC-V модель OpenAI GPT-6.2 Astra показала лучшие результаты среди поколений её моделей.
Отдельно OpenAI совместно с Synopsys разрабатывает GPT-Synopsys — модель, использующую EDA-инструменты Synopsys, с целью расширить доступ к проектированию чипов с помощью ИИ. Схожей работой занимается и Anthropic. Её модель Mythos за три дня выполнила обработку промптов для модели, работающей на GPU AMD MI355X, — задачу, на которую, по словам Anthropic, обычно уходит от шести до двенадцати месяцев.
Контекст
Ведущие разработчики ИИ уделяют всё больше внимания оборудованию, на котором работают их модели. OpenAI создаёт Jalapeño — свой первый собственный чип для инференса. Anthropic теперь запускает Claude на четырёх семействах чипов, чтобы улучшить стоимость и производительность в расчёте на доллар. Обе компании также направляют свои модели на само проектирование чипов, в том числе на оборудовании AMD.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
