Agentes de IA desafiam o modelo de supervisão financeira, diz Zango

Enquanto o Parlamento analisa grandes reformas no marco regulatório financeiro do Reino Unido por meio do projeto de lei de Serviços e Mercados Financeiros (Financial Services and Markets Bill), uma nova análise da Zango AI sugere que o avanço de uma IA cada vez mais autônoma está impulsionando uma revisão mais ampla da forma como as instituições financeiras são supervisionadas.

A análise, que traz um prefácio do deputado John Glen, membro do Comitê do Tesouro e ex-ministro da City, aponta para uma abordagem de supervisão financeira mais contínua e abrangente em todo o sistema, à medida que os sistemas de IA se tornam cada vez mais capazes de planejar, decidir e agir com intervenção humana limitada.

Paralelamente, o projeto de lei de Serviços e Mercados Financeiros daria aos reguladores mais flexibilidade sobre partes do marco de responsabilização, ao eliminar determinadas exigências legais prescritivas e ampliar a margem da FCA e da PRA para definir como esse marco funciona por meio de seus regulamentos.

O deputado John Glen afirmou: “O marco atual foi criado para um mundo em que os altos executivos tomam decisões e podem ser responsabilizados diretamente por elas, não para um mundo em que agentes autônomos atuam de forma contínua. A Mills Review, o Relatório de Estabilidade Financeira do Banco da Inglaterra e comentários recentes da FCA indicam que os reguladores estão se debruçando sobre a questão de saber se uma regulação tecnologicamente neutra continua sendo suficiente à medida que a IA muda a natureza da responsabilização e do risco de concentração. Isso merece uma resposta séria.”

O relatório também inclui contribuições de profissionais seniores das áreas jurídica, de compliance e de risco da Lloyds Wealth, do DNB, da LaSalle e de outras instituições financeiras, que examinam como as empresas estão respondendo na prática aos desafios de governança, responsabilização e controle criados por sistemas de IA cada vez mais capazes.

A análise da Zango argumenta que a resposta que vem surgindo é uma evolução do conjunto mais amplo de ferramentas de supervisão: maior uso de poderes que abrangem todo o mercado, monitoramento mais contínuo e abordagens cada vez mais apoiadas em IA, capazes de identificar riscos emergentes e dependências comuns em todo o sistema financeiro.

Para as empresas, isso levanta questões práticas sobre responsabilização, supervisão e evidências. À medida que a IA deixa de apenas auxiliar os funcionários e passa a planejar, decidir e agir, as instituições financeiras precisarão demonstrar quem é responsável pelos processos baseados em IA, onde o julgamento humano continua necessário, como os sistemas autônomos são monitorados e se suas ações podem ser reconstituídas e comprovadas.

Isso também muda o papel do compliance. Em vez de revisar as decisões baseadas em IA apenas depois do fato, as áreas de compliance podem precisar, cada vez mais, influenciar a forma como os sistemas são projetados, governados, testados e monitorados antes e durante sua implementação.

Esses temas serão discutidos em uma mesa-redonda privada organizada pela Zango AI com o deputado John Glen e cerca de 20 líderes seniores de compliance e risco do setor de gestão de patrimônio e de ativos, realizada sob a regra de Chatham House.

Ritesh Singhania, CEO e cofundador da Zango AI, afirmou: “A próxima fase da IA nos serviços financeiros será definida não apenas por modelos melhores, mas, sobretudo, pelos controles e processos em torno deles. Trabalhamos com instituições financeiras na implementação de agentes de IA e estamos vendo a gestão de riscos se tornar mais contínua e integrada, em vez de depender de avaliações manuais periódicas. Isso espelha o rumo que a própria supervisão parece estar tomando. Cada vez mais, a mesma tecnologia que impulsiona essa mudança pode ajudar as empresas a enfrentá-la, fortalecendo os controles e as evidências que os reguladores esperam – especialmente à medida que os próprios reguladores adotam a IA.”

Zakaria Ouraich, chefe de Compliance no Reino Unido da LaSalle, disse: “A adoção da IA deve ser vista como um portfólio de experimentos organizacionais com hipóteses claras e resultados mensurados, e não como um simples processo de compra focado no custo dos tokens. Os profissionais de compliance devem, sem dúvida, participar dessas discussões e garantir que a mensuração de resultados inclua não apenas as exigências regulatórias, mas também os resultados para os clientes, operacionais e financeiros.”

O The AI Regulatory Edge reúne os desenvolvimentos recentes da FCA, do Banco da Inglaterra, do Tesouro britânico (HM Treasury) e de órgãos internacionais de normatização, examinando como os avanços da IA estão começando a remodelar a responsabilização e a supervisão.