Что произошло
Inkling 2 Mini, новая открытая модель компании Thinking Machines, построена на архитектуре зацикленного трансформера, сообщает The Decoder. Вместо того чтобы пропускать каждый токен через все слои по одному разу, модель прогоняет его через набор из 12 слоёв, то есть половину от 24, в трёх последовательных циклах. По словам компании, такие дополнительные внутренние вычисления позволяют модели прорабатывать задачи, не выписывая лишнего текста, и приходить к верным ответам, расходуя меньше токенов.
Thinking Machines описывает Inkling 2 Mini как систему mixture-of-experts с 26,4 млрд параметров в общей сложности, из которых из-за зацикливания на каждый токен приходится 5,4 млрд активных. Модель работает с текстом и изображениями, поддерживает контекстное окно в 1 млн токенов и распространяется по лицензии Apache 2.0. Веса и исследовательский вариант с настраиваемым числом циклов доступны на Hugging Face, а опробовать модель можно в Tinker Playground.
В бенчмарках агентного программирования Inkling 2 Mini показывает лучшие результаты среди открытых моделей объёмом менее 100 млрд параметров: 48,2 процента в DeepSWE v1.1 и 46,5 процента в Vals Index v2.2. Artificial Analysis оценивает её в 20 баллов по своему Intelligence Index, что на уровне Qwen3.8 27B, при стоимости примерно в шесть раз ниже и скорости примерно в четыре раза выше. Модель можно запускать локально на компьютерах Mac с 32 ГБ памяти и более, а также на Nvidia DGX Spark.
Контекст
Зацикленные трансформеры добиваются более сильных рассуждений за счёт многократного повторного использования одних и тех же слоёв: на каждый токен тратится больше вычислений, а не генерируется больше токенов. Inkling 2 Mini выходит в конкурентном сегменте открытых моделей объёмом менее 100 млрд параметров, где новые релизы сравнивают с такими системами, как Qwen3.8 27B, в тестах на агентное программирование и в независимых рейтингах вроде Artificial Analysis Intelligence Index.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
