Qué ha pasado
Box presentó Box Content Retrieval el jueves en su conferencia para desarrolladores, una función que sitúa el sistema de embeddings Nemotron de Nvidia en el centro de su plataforma, según informó TechCrunch. La herramienta permite que los agentes de IA recurran a los metadatos generados por Nemotron al responder consultas, y Box aseguró que los usuarios deberían obtener resultados más rápidos, más precisos y más baratos.
Kari Briski, vicepresidenta de software de IA generativa de Nvidia, dijo a TechCrunch que prevé que las consultas se respondan cuatro veces más rápido, con un 20% menos de errores y un 90% menos de uso de tokens. El CEO de Box, Aaron Levie, afirmó que este enfoque hace que los agentes ya no necesiten procesar documentos enteros. En su lugar, el sistema devuelve los pasajes concretos más relevantes para la solicitud del usuario o para la tarea del agente.
La función llegará a todos los clientes de Box Enterprise Advance, y el despliegue comenzará a principios del próximo año. Box indicó que funciona mejor junto con agentes activos y citó como ejemplo a abogados que buscan cláusulas y precedentes relevantes. Como los embeddings capturan conceptos y no solo palabras clave, pueden aflorar temas relacionados aunque la redacción o el idioma sean distintos.
Contexto
La función se apoya en el proyecto Nemotron Embed de Nvidia, que publica modelos de embeddings de pesos abiertos diseñados para mejorar la recuperación automatizada. Estos modelos emplean grandes modelos de lenguaje para preprocesar los datos de modo que los agentes puedan trabajar con ellos con mayor eficacia, un ámbito que los grandes laboratorios de IA han pasado por alto con frecuencia. La recuperación ha sido un eje del trabajo de Nvidia con modelos de código abierto, y su lanzamiento de Nemotron en julio ocupó el primer puesto en el benchmark de calidad de recuperación RTEB.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.