Ce qui s'est passé
Box a dévoilé jeudi Box Content Retrieval lors de sa conférence pour développeurs. Cette fonctionnalité place le système d'embedding Nemotron de Nvidia au cœur de sa plateforme, a rapporté TechCrunch. L'outil permet aux agents IA de s'appuyer sur les métadonnées générées par Nemotron pour répondre aux requêtes, et Box affirme que les utilisateurs devraient obtenir des résultats plus rapides, plus précis et moins coûteux.
Kari Briski, vice-présidente chargée des logiciels d'IA générative chez Nvidia, a déclaré à TechCrunch qu'elle s'attendait à ce que les requêtes soient traitées quatre fois plus vite, avec 20 % d'erreurs en moins et une consommation de tokens réduite de 90 %. Le PDG de Box, Aaron Levie, a expliqué que cette approche évite aux agents de devoir parcourir des documents entiers. Le système renvoie à la place les passages précis les plus pertinents par rapport à la demande de l'utilisateur ou à la tâche de l'agent.
La fonctionnalité sera proposée à tous les clients Box Enterprise Advance, avec un déploiement qui débutera au début de l'année prochaine. Box indique qu'elle fonctionne mieux avec des agents actifs et cite l'exemple d'avocats recherchant des clauses et des précédents pertinents. Les embeddings saisissant les concepts et pas seulement les mots-clés, des thèmes connexes peuvent apparaître même lorsque la formulation ou la langue diffère.
Contexte
Cette fonctionnalité s'appuie sur le projet Nemotron Embed de Nvidia, qui publie des modèles d'embedding open-weight conçus pour améliorer la recherche automatisée. Ces modèles utilisent des grands modèles de langage pour prétraiter les données afin que les agents puissent les exploiter plus efficacement, un domaine souvent négligé par les grands laboratoires d'IA. La recherche d'information est un axe majeur des travaux de Nvidia sur les modèles open source, et sa version de Nemotron de juillet s'est classée première au benchmark de qualité de recherche RTEB.
Le briefing
La semaine tech, en un seul e-mail.
Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.
