Что произошло
Ricursive Intelligence, лаборатория, которая разрабатывает ИИ одновременно на уровне аппаратного обеспечения, программ и моделей, выпустила Ripple-65B Preview — языковую модель с открытыми весами, обученную с нуля, сообщила Ricursive. Компания описывает её как универсальную версию проприетарной модели, на которой работает её платформа для проектирования ИИ-чипов. Для предварительного обучения использовалось 12 триллионов токенов, а модель поддерживает контекст до 1M токенов.
В TerminalBench 2.1 модель набрала 80,52 балла, что, по словам компании, является лучшим результатом среди американских моделей с открытыми весами. Ricursive сравнила её с более крупными американскими open-weight системами: Reflection Beam 501B набрала 80,1, Meta Muse Spark Open 816B — 76,4, а NVIDIA Nemotron 3 Ultra 550B показала 56,4, и Thinking Machines Inkling 975B — 63,8. Модель доступна через OpenRouter, Hugging Face, GMI Cloud и Together AI, а Fireworks добавится позднее в тот же день.
Ricursive оценила общие затраты на разработку в $32 млн, включая все исследования и разработку с нуля, и подсчитала, что это примерно в десять раз меньше стоимости предыдущего лидера среди open-weight моделей. Компания выбрала плотный Transformer вместо Mixture-of-Experts и сообщила о 40% MFU при обучении. По её словам, результат был достигнут с 1,4M прогонов обучения с подкреплением, примерно в 70 раз меньше, чем у Reflection Beam, а собственные синтетические данные компания создала сама, а не покупала данные для постобучения.
Контекст
Компания сопоставила свой бюджет с опубликованными данными о затратах в отрасли. Генеральный директор OpenAI Сэм Альтман заявил в 2023 году, что обучение GPT-4 обошлось дороже чем в $100 млн, а Дарио Амодеи позднее сказал, что передовые модели могут стоить до $1 млрд, и спрогнозировал $10–100 млрд на предварительное обучение в 2026–2027 годах. Ricursive также сослалась на сообщения о том, что Reflection договорилась тратить около $150 млн в месяц на вычисления с использованием SpaceX Colossus.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
