Аналитический отчёт

Pretxt вышла из тени: 5 млн долларов на контроль ИИ-агентов

Стартап из Аспена и Дублина не отключает ИИ-агентов, сбившихся с цели, а возвращает их к заданной задаче.

INSIGHTEX Editorial Desk

2 мин чтения

Pretxt вышла из тени: 5 млн долларов на контроль ИИ-агентовАналитический отчёт

Что произошло

Pretxt, стартап с офисами в Аспене и в Дублине (Ирландия), вышел из режима тишины, привлекнув 5 млн долларов посевного финансирования, сообщило издание SecurityWeek. Раунд поддержали Deciens Capital, Howdy Partners и Service Provider Capital. Компания запускает продукт под названием AI Supervision — инструмент, работающий в реальном времени, который следит за ИИ-агентами во время их работы и корректирует их поведение до того, как ошибки превратятся в бизнес-проблемы.

По словам сооснователя и технического директора Аарона Костелло (Aaron Costello), клиенты подключают своих агентов к платформе. После этого Pretxt может прочитать инструкции каждого агента, наблюдать, как он общается, и составить карту доступных ему инструментов и действий, например отправки электронной почты или обновления базы данных. Затем клиенты определяют, что агент не должен делать ни при каких условиях, а что может делать только в определенных случаях. Эти указания становятся эталоном, по которому собственный ИИ Pretxt оценивает каждое действие.

Pretxt не останавливает агента, вышедшего за рамки, а перенаправляет его. Костелло привел пример медицинской клиники, чей помощник по записи на прием не должен давать медицинские советы. Pretxt в реальном времени проверяет каждый обмен сообщениями с пациентами и блокирует любые обнаруженные советы. Затем он незаметно предписывает агенту продолжать помогать с записью, так что пациенты по-прежнему могут записаться на прием.

Контекст

Pretxt присоединяется к недавно формирующейся группе поставщиков решений в области кибербезопасности, которые пытаются выявлять вредные действия агентов по мере их совершения. В материале причиной неконтролируемого поведения агентов называются неоднозначные инструкции в сочетании с широкой автономностью агентов. Там же отмечается, что неоднозначность языка невозможно устранить полностью, а жесткое ограничение возможностей агентов может лишить бизнес значительной части ценности.

ИсточникSecurityWeek

Обзор

Неделя в технологиях в одном письме.

Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.