Mientras el Parlamento estudia importantes reformas del marco regulatorio financiero del Reino Unido a través del proyecto de ley de Servicios y Mercados Financieros (Financial Services and Markets Bill), un nuevo análisis de Zango AI sugiere que el auge de una IA cada vez más autónoma está impulsando un replanteamiento más amplio de cómo se supervisa a las instituciones financieras.
El análisis, que incluye un prólogo del diputado John Glen, miembro del Comité del Tesoro y exministro de la City, apunta hacia un enfoque de la supervisión financiera más continuo y que abarque todo el sistema, a medida que los sistemas de IA son cada vez más capaces de planificar, decidir y actuar con una intervención humana limitada.
Por su parte, el proyecto de ley de Servicios y Mercados Financieros daría a los reguladores mayor flexibilidad sobre partes del marco de rendición de cuentas, al eliminar determinados requisitos legales prescriptivos y otorgar a la FCA y a la PRA un mayor margen para determinar cómo funciona dicho marco a través de sus reglamentos.
El diputado John Glen afirmó: «El marco actual se diseñó para un mundo en el que los altos directivos toman decisiones y pueden rendir cuentas directamente por ellas, no para un mundo en el que agentes autónomos actúan de forma continua. La Mills Review, el Informe de Estabilidad Financiera del Banco de Inglaterra y los comentarios recientes de la FCA indican que los reguladores se están planteando si una regulación tecnológicamente neutral sigue siendo suficiente cuando la IA cambia la naturaleza de la rendición de cuentas y del riesgo de concentración. Eso merece una respuesta seria».
El informe también incluye aportaciones de profesionales sénior de los ámbitos jurídico, de cumplimiento normativo y de riesgos de Lloyds Wealth, DNB, LaSalle y otras instituciones financieras, que analizan cómo responden en la práctica las empresas a los retos de gobernanza, rendición de cuentas y control que plantean unos sistemas de IA cada vez más capaces.
El análisis de Zango sostiene que la respuesta que está surgiendo es una evolución del conjunto más amplio de herramientas de supervisión: un mayor uso de las competencias que abarcan todo el mercado, una vigilancia más continua y enfoques cada vez más apoyados en la IA, capaces de identificar riesgos emergentes y dependencias comunes en todo el sistema financiero.
Para las empresas, esto plantea cuestiones prácticas en torno a la rendición de cuentas, la supervisión y las pruebas. A medida que la IA pasa de asistir al personal a planificar, decidir y actuar, las instituciones financieras tendrán que demostrar quién es responsable de los procesos basados en IA, dónde sigue siendo necesario el criterio humano, cómo se supervisan los sistemas autónomos y si sus acciones pueden reconstruirse y documentarse.
También cambia el papel del cumplimiento normativo. En lugar de revisar las decisiones basadas en IA solo a posteriori, las funciones de cumplimiento podrían tener que influir cada vez más en cómo se diseñan, gobiernan, prueban y supervisan los sistemas antes y durante su implantación.
Estos temas se debatirán en una mesa redonda privada convocada por Zango AI con el diputado John Glen y unos 20 altos responsables de cumplimiento y riesgos del sector de la gestión de patrimonios y de activos, que se celebrará bajo la regla de Chatham House.
Ritesh Singhania, consejero delegado y cofundador de Zango AI, afirmó: «La próxima fase de la IA en los servicios financieros no estará definida solo por mejores modelos, sino, sobre todo, por los controles y procesos que los rodean. Trabajamos con instituciones financieras para implantar agentes de IA y estamos viendo que la gestión de riesgos se vuelve más continua e integrada, en lugar de depender de evaluaciones manuales periódicas. Eso refleja hacia dónde parece dirigirse la propia supervisión. Cada vez más, la misma tecnología que impulsa este cambio puede ayudar a las empresas a afrontarlo, reforzando los controles y las pruebas que esperan los reguladores, sobre todo a medida que los propios reguladores adoptan la IA».
Zakaria Ouraich, responsable de Cumplimiento Normativo para el Reino Unido en LaSalle, señaló: «La adopción de la IA debe entenderse como una cartera de experimentos organizativos con hipótesis claras y resultados medidos, no como un simple ejercicio de contratación centrado en el coste de los tokens. Los profesionales del cumplimiento normativo deberían formar parte, sin duda, de esos debates y garantizar que la medición de resultados incluya no solo los requisitos regulatorios, sino también los resultados para los clientes, operativos y financieros».
The AI Regulatory Edge reúne los últimos avances de la FCA, el Banco de Inglaterra, el Tesoro británico (HM Treasury) y los organismos internacionales de normalización, y analiza cómo los avances de la IA están empezando a redefinir la rendición de cuentas y la supervisión.
El boletín
La semana tecnológica, en un solo correo.
Las crónicas que merecen su tiempo, cada semana. Cancele la suscripción cuando quiera.