情报报告

Pretxt获500万美元种子轮,打造AI智能体运行时监管

这家总部位于阿斯彭和都柏林的初创公司不会直接关停越界的AI智能体,而是将其重新引导回正轨。

INSIGHTEX Editorial Desk

阅读约 2 分钟

Pretxt获500万美元种子轮,打造AI智能体运行时监管情报报告

事件概述

据SecurityWeek报道,在阿斯彭和爱尔兰都柏林设有办公室的初创公司Pretxt已结束隐身模式,并获得500万美元种子轮融资。本轮融资由Deciens Capital、Howdy Partners和Service Provider Capital投资。该公司推出名为AI Supervision的产品,这是一款运行时工具,可在AI智能体运行期间对其进行监督,并在错误演变为业务问题之前纠正其行为。

据联合创始人兼首席技术官Aaron Costello介绍,客户将其智能体接入该平台后,Pretxt便可读取每个智能体的指令,观察其沟通方式,并梳理其可用的工具和操作,例如发送电子邮件或更新数据库。随后,客户设定智能体绝对不能做什么,或只能做什么。这些规则将成为Pretxt自身AI判断每项操作的依据。

对于越权的智能体,Pretxt会将其重新引导,而不是直接叫停。Costello举了一家医疗机构的例子:其预约助手不得提供医疗建议。Pretxt会实时检查与患者之间的每一次交流,一旦发现提供建议的内容便予以拦截,随后悄然指示智能体继续协助处理预约事宜,让患者依然可以顺利预约。

背景

Pretxt加入了一批新兴的网络安全厂商行列,这些厂商致力于在有害的智能体行为发生时即时识别。报道将智能体失控行为归因于指令含糊不清,再加上智能体拥有较大的自主权。报道还指出,语言中的歧义无法被完全消除,而严格限制智能体的行为范围,则可能牺牲相当可观的业务价值。

来源SecurityWeek

简报

一封邮件,尽览一周科技要闻。

每周精选值得一读的报道。可随时退订。