事件经过
据TechCrunch报道,Box在周四的开发者大会上发布了Box Content Retrieval,这项功能将Nvidia的Nemotron嵌入系统置于其平台的核心位置。该工具让AI智能体在响应查询时可以调用由Nemotron生成的元数据,Box表示,用户将获得更快、更准确且成本更低的结果。
Nvidia生成式AI软件副总裁Kari Briski对TechCrunch表示,她预计查询的响应速度将提升至四倍,错误减少20%,token用量削减90%。Box首席执行官Aaron Levie称,这种方式意味着智能体不再需要逐字处理整篇文档,系统会直接返回与用户请求或智能体任务最相关的具体段落。
该功能将面向所有Box Enterprise Advance客户开放,并于明年初开始推出。Box表示,它与处于活跃状态的智能体配合效果最佳,并以律师检索相关条款和先例为例。由于嵌入捕捉的是概念而非仅仅关键词,即使措辞或语言不同,相关主题也能被检索出来。
背景
该功能建立在Nvidia的Nemotron Embed项目之上,该项目发布旨在改进自动化检索的开放权重嵌入模型。这类模型利用大语言模型对数据进行预处理,使智能体能够更有效地使用这些数据,而这一领域常被大型AI实验室忽视。检索一直是Nvidia开源模型工作的重点,其7月发布的Nemotron在RTEB检索质量基准测试中排名第一。
简报
一封邮件,尽览一周科技要闻。
每周精选值得一读的报道。可随时退订。
