Qué ha ocurrido
Pretxt, una startup con oficinas en Aspen y en Dublín (Irlanda), ha salido del modo sigilo con 5 millones de dólares en financiación semilla, según informó SecurityWeek. Deciens Capital, Howdy Partners y Service Provider Capital respaldaron la ronda. La compañía lanza un producto al que llama AI Supervision, una herramienta en tiempo de ejecución que supervisa a los agentes de IA mientras operan y corrige su comportamiento antes de que los errores se conviertan en problemas para el negocio.
Según Aaron Costello, cofundador y CTO, los clientes conectan sus agentes a la plataforma. Pretxt puede entonces leer las instrucciones de cada agente, observar cómo se comunica y cartografiar las herramientas y acciones a su alcance, como enviar correos electrónicos o actualizar una base de datos. Después, los clientes definen qué no debe hacer nunca un agente o qué solo puede hacer. Esas pautas se convierten en la referencia que la propia IA de Pretxt utiliza para juzgar cada acción.
Pretxt redirige a un agente que se extralimita en lugar de detenerlo. Costello puso el ejemplo de una consulta médica cuyo asistente de reservas no debe ofrecer consejo médico. Pretxt inspecciona en tiempo real cada intercambio con los pacientes y bloquea cualquier consejo que detecte. A continuación, indica discretamente al agente que siga ayudando con la cita, de modo que los pacientes aún puedan reservar.
Contexto
Pretxt se suma a un grupo recién formado de proveedores de ciberseguridad que intentan identificar acciones dañinas de los agentes a medida que se producen. El informe atribuye el comportamiento errático de los agentes a instrucciones ambiguas combinadas con una amplia autonomía de los agentes. También señala que la ambigüedad del lenguaje no puede eliminarse por completo, mientras que restringir estrictamente lo que pueden hacer los agentes puede sacrificar un valor empresarial considerable.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.
