Intelligence-Bericht

Pretxt verlässt Stealth-Modus: 5 Mio. $ Seed für KI-Agenten-Aufsicht

Das Startup aus Aspen und Dublin lenkt KI-Agenten um, die von ihrem eigentlichen Zweck abweichen, statt sie abzuschalten.

INSIGHTEX Editorial Desk

2 Min. Lesezeit

Pretxt verlässt Stealth-Modus: 5 Mio. $ Seed für KI-Agenten-AufsichtIntelligence-Bericht

Was passiert ist

Pretxt, ein Startup mit Büros in Aspen und im irischen Dublin, hat den Stealth-Modus verlassen und 5 Millionen Dollar Seed-Finanzierung eingesammelt, wie SecurityWeek berichtet. Die Runde wurde von Deciens Capital, Howdy Partners und Service Provider Capital unterstützt. Das Unternehmen bringt ein Produkt namens AI Supervision auf den Markt, ein Laufzeit-Tool, das KI-Agenten im Betrieb überwacht und ihr Verhalten korrigiert, bevor aus Fehlern Geschäftsprobleme werden.

Laut Mitgründer und CTO Aaron Costello verbinden Kunden ihre Agenten mit der Plattform. Pretxt kann dann die Anweisungen jedes Agenten lesen, beobachten, wie er kommuniziert, und die ihm zur Verfügung stehenden Tools und Aktionen erfassen, etwa das Versenden von E-Mails oder das Aktualisieren einer Datenbank. Anschließend legen die Kunden fest, was ein Agent niemals tun darf oder nur tun darf. Diese Vorgaben dienen als Referenz, anhand derer die eigene KI von Pretxt jede Aktion beurteilt.

Pretxt lenkt einen Agenten, der seine Befugnisse überschreitet, um, statt ihn anzuhalten. Costello nannte das Beispiel einer Arztpraxis, deren Terminbuchungsassistent keine medizinischen Ratschläge geben darf. Pretxt prüft jeden Austausch mit Patienten in Echtzeit und blockiert jeden erkannten Ratschlag. Anschließend weist es den Agenten unauffällig an, weiter bei der Terminvereinbarung zu helfen, sodass Patienten weiterhin buchen können.

Kontext

Pretxt reiht sich in eine neu entstehende Gruppe von Cybersicherheitsanbietern ein, die schädliche Agentenaktionen erkennen wollen, während sie geschehen. Der Bericht führt das Fehlverhalten außer Kontrolle geratener Agenten auf mehrdeutige Anweisungen in Kombination mit weitreichender Autonomie der Agenten zurück. Zudem weist er darauf hin, dass sich Mehrdeutigkeit in der Sprache nicht vollständig beseitigen lässt, während eine strikte Beschränkung dessen, was Agenten tun dürfen, erheblichen geschäftlichen Nutzen kosten kann.

QuelleSecurityWeek

Das Briefing

Die Tech-Woche in einer E-Mail.

Die lesenswerten Beiträge der Woche. Jederzeit abbestellbar.