ИИ-агенты бросают вызов модели финансового надзора — Занго

Пока парламент рассматривает масштабную реформу системы финансового регулирования Великобритании в рамках законопроекта о финансовых услугах и рынках (Financial Services and Markets Bill), новое исследование компании Занго (Zango AI) показывает, что распространение всё более автономного ИИ подталкивает к более широкому переосмыслению того, как осуществляется надзор за финансовыми организациями.

Исследование, предисловие к которому написал член парламента Джон Глен (John Glen), входящий в Комитет по делам казначейства и ранее занимавший пост министра по делам Сити, указывает на переход к более непрерывному и общесистемному подходу к финансовому надзору по мере того, как системы ИИ всё лучше умеют планировать, принимать решения и действовать при ограниченном участии человека.

Тем временем законопроект о финансовых услугах и рынках предоставил бы регуляторам больше гибкости в отношении отдельных элементов системы ответственности: он отменяет ряд жёстко прописанных законодательных требований и даёт Управлению по финансовому поведению (FCA) и Управлению пруденциального регулирования (PRA) больше свободы самостоятельно определять работу этой системы через свои своды правил.

Джон Глен заявил: «Действующая система создавалась для мира, в котором решения принимают топ-менеджеры и их можно напрямую привлечь за них к ответственности, а не для мира, в котором автономные агенты действуют непрерывно. Обзор Миллс (Mills Review), Доклад о финансовой стабильности Банка Англии и недавние комментарии FCA — всё это свидетельствует о том, что регуляторы пытаются понять, остаётся ли технологически нейтральное регулирование достаточным, когда ИИ меняет саму природу ответственности и риска концентрации. Этот вопрос заслуживает серьёзного ответа».

В доклад также вошли материалы опытных специалистов в области права, комплаенса и управления рисками из Ллойдс Уэлс (Lloyds Wealth), ДНБ (DNB), Ласаль (LaSalle) и других финансовых организаций, в которых рассматривается, как компании на практике справляются с проблемами в сфере управления, ответственности и контроля, порождёнными всё более мощными системами ИИ.

Авторы исследования Занго утверждают, что формирующийся ответ представляет собой эволюцию более широкого набора надзорных инструментов: более активное использование общерыночных полномочий, более непрерывный мониторинг и всё чаще подходы на основе ИИ, способные выявлять возникающие риски и общие зависимости во всей финансовой системе.

Для компаний это порождает практические вопросы, связанные с ответственностью, контролем и доказательной базой. По мере того как ИИ переходит от помощи сотрудникам к планированию, принятию решений и действиям, финансовым организациям придётся показывать, кто отвечает за процессы с использованием ИИ, где по-прежнему необходимо человеческое суждение, как ведётся мониторинг автономных систем и можно ли восстановить и задокументировать их действия.

Меняется и роль комплаенса. Вместо того чтобы проверять решения, принятые с помощью ИИ, лишь постфактум, подразделениям комплаенса, возможно, всё чаще придётся влиять на то, как системы проектируются, управляются, тестируются и контролируются до и во время их внедрения.

Эти темы будут обсуждаться на закрытом круглом столе, который Занго организует с участием Джона Глена и около 20 руководителей служб комплаенса и управления рисками из сферы управления капиталом и активами. Встреча пройдёт по правилу Чатем-хауса.

Ритеш Сингхания (Ritesh Singhania), генеральный директор и сооснователь Занго, отметил: «Следующий этап развития ИИ в финансовых услугах будет определяться не только более совершенными моделями, но прежде всего механизмами контроля и процессами вокруг них. Мы помогаем финансовым организациям внедрять ИИ-агентов и видим, что управление рисками становится более непрерывным и встроенным, а не зависящим от периодических ручных оценок. Это отражает направление, в котором, судя по всему, движется и сам надзор. Всё чаще та же технология, что стоит за этими переменами, может помочь компаниям соответствовать им, укрепляя механизмы контроля и доказательную базу, которых ждут регуляторы, — тем более что регуляторы и сами внедряют ИИ».

Закария Урайш (Zakaria Ouraich), руководитель службы комплаенса Ласаль в Великобритании, сказал: «Внедрение ИИ следует рассматривать как портфель организационных экспериментов с четкими гипотезами и измеримыми результатами, а не как простую закупку с упором на стоимость токенов. Специалисты по комплаенсу непременно должны участвовать в этих обсуждениях и следить за тем, чтобы оценка результатов охватывала не только регуляторные требования, но и результаты для клиентов, операционной деятельности и финансов».

Доклад The AI Regulatory Edge обобщает последние инициативы FCA, Банка Англии, Министерства финансов Великобритании и международных органов по разработке стандартов и рассматривает, как достижения в области ИИ начинают менять подходы к ответственности и надзору.