O que aconteceu
A Pretxt, startup com escritórios em Aspen e em Dublin, na Irlanda, saiu do modo stealth com US$ 5 milhões em capital seed, segundo o SecurityWeek. A rodada teve como investidores a Deciens Capital, a Howdy Partners e a Service Provider Capital. A empresa está lançando um produto chamado AI Supervision, uma ferramenta de runtime que supervisiona agentes de IA enquanto eles operam e corrige seu comportamento antes que os erros se transformem em problemas para o negócio.
De acordo com o cofundador e CTO Aaron Costello, os clientes conectam seus agentes à plataforma. A Pretxt então consegue ler as instruções de cada agente, observar como ele se comunica e mapear as ferramentas e ações disponíveis para ele, como enviar e-mails ou atualizar um banco de dados. Em seguida, os clientes definem o que um agente nunca deve fazer ou só pode fazer. Essas orientações se tornam a referência que a própria IA da Pretxt usa para avaliar cada ação.
A Pretxt redireciona um agente que extrapola os limites, em vez de interrompê-lo. Costello deu o exemplo de um consultório médico cujo assistente de agendamento não pode dar conselhos médicos. A Pretxt inspeciona cada troca de mensagens com os pacientes em tempo real e bloqueia qualquer conselho que detecte. Depois, instrui discretamente o agente a continuar ajudando com a consulta, de modo que os pacientes ainda consigam agendar.
Contexto
A Pretxt se junta a um grupo recém-formado de fornecedores de cibersegurança que tentam identificar ações nocivas de agentes à medida que elas ocorrem. A reportagem atribui o comportamento descontrolado de agentes a instruções ambíguas combinadas com ampla autonomia dos agentes. Ela também observa que a ambiguidade da linguagem não pode ser totalmente eliminada, enquanto restringir rigidamente o que os agentes podem fazer pode sacrificar um valor de negócio significativo.
O briefing
A semana em tecnologia, em um só e-mail.
As reportagens que valem o seu tempo, toda semana. Cancele quando quiser.
