Что произошло
Сооснователь Fireworks AI Чэньюй Чжао заявил на конференции Slush в Хельсинки, что большинство компаний могут использовать модели с открытыми весами вместо платных передовых систем, сообщает TechCrunch. Беседа на сцене состоялась в день, когда Anthropic вышла на биржу в рамках IPO, названного крупнейшим в истории. Fireworks размещает открытые модели для других компаний и помогает настраивать их на собственных данных клиентов.
По словам Чжао, открытые модели отстают от передовых не более чем на шесть месяцев, а скорее всего, примерно на три. По его мнению, компаниям стоит задуматься о переходе, когда у них от 10 000 до 100 000 пользователей, а ежемесячные расходы на токены составляют от 10 000 до 100 000 долларов. Он ожидает, что передовые и открытые модели будут сосуществовать: инструменты маршрутизации будут направлять простые задачи на более дешёвые системы, а покупатели будут оценивать стоимость выполнения задачи, а не стоимость токена.
Чжао также прокомментировал две утечки, о которых Fireworks сообщила этой осенью: в одной были раскрыты API-ключи и токены некоторых аккаунтов, в другой затронуты данные клиентов, например платёжные записи, через облачного провайдера. Notion прекратила интеграцию после того, как стали доступны расшифровки менее чем из 1% её рабочих пространств. Чжао сказал, что злоумышленников в основном интересовали ключи для перепродажи токенов, что Notion использовала пакетный сервис, хранящий данные в состоянии покоя, и что обещание нулевого хранения данных при инференсе, судя по всему, не нарушено.
Контекст
Летом инвесторы оценили Fireworks в 17,5 млрд долларов, и, по сообщениям, компания ведёт предварительные переговоры о новом раунде, который Чжао обсуждать отказался. Конкуренты Together AI и Baseten в последние месяцы объявили о крупных раундах, а Palo Alto Networks согласилась купить Applied Compute, годовалый стартап, основанный бывшими исследователями OpenAI, за 4,5 млрд долларов в акциях.
Обзор
Неделя в технологиях в одном письме.
Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.
