O que aconteceu
A Box apresentou o Box Content Retrieval em sua conferência de desenvolvedores na quinta-feira, um recurso que coloca o sistema de embeddings Nemotron, da Nvidia, no centro de sua plataforma, segundo o TechCrunch. A ferramenta permite que agentes de IA usem metadados gerados pelo Nemotron ao responder a consultas, e a Box afirmou que os usuários devem ver resultados mais rápidos, mais precisos e mais baratos.
Kari Briski, vice-presidente de software de IA generativa da Nvidia, disse ao TechCrunch que espera consultas respondidas quatro vezes mais rápido, com 20% menos erros e uso de tokens reduzido em 90%. O CEO da Box, Aaron Levie, afirmou que a abordagem faz com que os agentes não precisem mais percorrer documentos inteiros. Em vez disso, o sistema devolve os trechos específicos mais relevantes para a solicitação do usuário ou para a tarefa do agente.
O recurso chegará a todos os clientes do Box Enterprise Advance, com o lançamento começando no início do próximo ano. A Box disse que ele funciona melhor junto com agentes ativos e citou como exemplo advogados em busca de cláusulas e precedentes relevantes. Como os embeddings capturam conceitos, e não apenas palavras-chave, temas relacionados podem aparecer mesmo quando a redação ou o idioma são diferentes.
Contexto
O recurso se baseia no projeto Nemotron Embed, da Nvidia, que publica modelos de embedding open-weight projetados para melhorar a recuperação automatizada de informações. Esses modelos usam grandes modelos de linguagem para pré-processar dados, de modo que os agentes possam trabalhar com eles de forma mais eficaz, uma área que os grandes laboratórios de IA muitas vezes negligenciaram. A recuperação tem sido um foco do trabalho da Nvidia com modelos de código aberto, e seu lançamento do Nemotron em julho ficou em primeiro lugar no benchmark de qualidade de recuperação RTEB.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.