何が起きたか
SecurityWeekの報道によると、米アスペンとアイルランドのダブリンにオフィスを構えるスタートアップのPretxtが、500万ドルのシード資金を調達してステルスモードを脱した。このラウンドにはDeciens Capital、Howdy Partners、Service Provider Capitalが出資した。同社は「AI Supervision」と呼ぶ製品を投入する。これは、AIエージェントが稼働している間にその動作を監督し、ミスがビジネス上の問題に発展する前に挙動を修正する実行時ツールである。
共同創業者でCTOのAaron Costello氏によると、顧客は自社のエージェントをこのプラットフォームに接続する。するとPretxtは各エージェントの指示を読み取り、そのやり取りの仕方を観察し、メール送信やデータベース更新など、エージェントが使えるツールと操作を洗い出す。そのうえで顧客は、エージェントが決して行ってはならないこと、あるいは行ってよいことだけを定める。このガイダンスが、Pretxt自身のAIが各操作を判断する際の基準となる。
Pretxtは、権限を超えたエージェントを停止させるのではなく、軌道修正する。Costello氏は、予約受付用のアシスタントが医療アドバイスをしてはならない医療機関を例に挙げた。Pretxtは患者とのやり取りをリアルタイムで一つひとつ検査し、検出したアドバイスをブロックする。そのうえで、エージェントに予約の手続きを引き続き支援するよう密かに指示するため、患者は予約を取り続けることができる。
背景
Pretxtは、有害なエージェントの行動を発生した時点で特定しようとするサイバーセキュリティベンダーの、新たに形成されつつあるグループに加わる。報道は、エージェントの暴走的な挙動の原因を、あいまいな指示と、エージェントに与えられた広範な自律性の組み合わせに求めている。また、言語のあいまいさは完全には取り除けず、一方でエージェントにできることを厳しく制限すれば、大きなビジネス価値を犠牲にしかねないとも指摘している。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
