Qué ha pasado
Chenyu Zhao, cofundador de Fireworks AI, defendió en la conferencia Slush de Helsinki que la mayoría de las empresas puede apoyarse en modelos de pesos abiertos en lugar de pagar por sistemas de frontera, según informó TechCrunch. La conversación en el escenario tuvo lugar el mismo día en que Anthropic salió a bolsa en la que se describió como la mayor OPV de la historia. Fireworks aloja modelos abiertos para otras empresas y las ayuda a personalizarlos con sus propios datos.
Zhao afirmó que los modelos abiertos se sitúan ahora como máximo seis meses por detrás de la frontera, y probablemente más cerca de tres. En su opinión, las empresas deberían plantearse el cambio cuando alcancen entre 10,000 y 100,000 usuarios y gasten entre 10,000 y 100,000 dólares al mes en tokens. Espera que los modelos de frontera y los abiertos coexistan, con herramientas de enrutamiento que envíen las tareas más simples a sistemas más baratos y compradores que midan el coste por tarea y no por token.
Zhao también se refirió a las dos brechas que Fireworks reveló este otoño: una expuso claves de API y tokens de algunas cuentas y otra alcanzó datos de clientes, como registros de facturación, a través de su proveedor de nube. Notion se ha desconectado tras la exposición de transcripciones de menos del 1% de sus espacios de trabajo. Zhao dijo que los atacantes buscaban sobre todo claves para revender tokens, que Notion usaba un servicio por lotes que almacena datos en reposo y que la promesa de inferencia sin retención de datos parece seguir intacta.
Contexto
Los inversores valoraron Fireworks en 17.5 mil millones de dólares este verano, y según se informa está en conversaciones iniciales para otra ronda, que Zhao se negó a comentar. Sus rivales Together AI y Baseten han anunciado grandes rondas en los últimos meses, y Palo Alto Networks acordó comprar Applied Compute, una startup de un año fundada por antiguos investigadores de OpenAI, por 4.5 mil millones de dólares en acciones.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.
