Was passiert ist
Box hat am Donnerstag auf seiner Entwicklerkonferenz Box Content Retrieval vorgestellt, eine Funktion, die Nvidias Embedding-System Nemotron ins Zentrum der Plattform stellt, wie TechCrunch berichtet. Das Tool ermöglicht es KI-Agenten, bei der Beantwortung von Anfragen auf von Nemotron erzeugte Metadaten zurückzugreifen. Box zufolge sollen Nutzer schnellere, genauere und günstigere Ergebnisse erhalten.
Kari Briski, Vice President of Generative AI Software bei Nvidia, sagte gegenüber TechCrunch, sie erwarte, dass Anfragen viermal so schnell beantwortet werden, die Fehlerquote um 20 % sinkt und der Token-Verbrauch um 90 % zurückgeht. Box-CEO Aaron Levie erklärte, der Ansatz bedeute, dass Agenten nicht mehr ganze Dokumente durcharbeiten müssen. Stattdessen liefert das System die konkreten Passagen, die für die Anfrage eines Nutzers oder die Aufgabe des Agenten am relevantesten sind.
Die Funktion soll allen Kunden von Box Enterprise Advance zur Verfügung stehen, der Rollout beginnt Anfang nächsten Jahres. Box zufolge funktioniert sie am besten zusammen mit aktiven Agenten und nannte als Beispiel Juristen, die nach relevanten Klauseln und Präzedenzfällen suchen. Da die Embeddings Konzepte und nicht nur Schlüsselwörter erfassen, können verwandte Themen auch dann auftauchen, wenn Formulierung oder Sprache abweichen.
Hintergrund
Die Funktion baut auf Nvidias Projekt Nemotron Embed auf, das Open-Weight-Embedding-Modelle veröffentlicht, die das automatisierte Retrieval verbessern sollen. Solche Modelle nutzen große Sprachmodelle, um Daten vorzuverarbeiten, damit Agenten effektiver mit ihnen arbeiten können – ein Bereich, den große KI-Labore häufig übersehen haben. Retrieval steht im Mittelpunkt von Nvidias Open-Source-Modellarbeit, und die Nemotron-Veröffentlichung vom Juli belegte im RTEB-Benchmark für Retrieval-Qualität den ersten Platz.
Das Briefing
Die Tech-Woche in einer E-Mail.
Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.