Alors que le Parlement examine des réformes majeures du cadre réglementaire financier britannique avec le projet de loi sur les services et marchés financiers (Financial Services and Markets Bill), une nouvelle analyse de Zango AI suggère que l’essor d’une IA de plus en plus autonome entraîne une remise à plat plus large de la manière dont les établissements financiers sont supervisés.
L’analyse, préfacée par le député John Glen, membre de la commission du Trésor et ancien ministre chargé de la City, plaide pour une approche de la supervision financière plus continue et couvrant l’ensemble du système, à mesure que les systèmes d’IA deviennent de plus en plus capables de planifier, de décider et d’agir avec une intervention humaine limitée.
Parallèlement, le projet de loi sur les services et marchés financiers donnerait aux régulateurs davantage de souplesse sur certains volets du cadre de responsabilité, en supprimant certaines exigences légales prescriptives et en laissant à la FCA et à la PRA une plus grande latitude pour déterminer le fonctionnement de ce cadre au travers de leurs règlements.
Le député John Glen a déclaré : « Le cadre actuel a été conçu pour un monde dans lequel les cadres dirigeants prennent des décisions et peuvent en être tenus directement responsables, et non pour un monde dans lequel des agents autonomes agissent en continu. La Mills Review, le rapport sur la stabilité financière de la Banque d’Angleterre et les récents commentaires de la FCA montrent tous que les régulateurs s’interrogent sur la question de savoir si une réglementation neutre sur le plan technologique reste suffisante alors que l’IA transforme la nature de la responsabilité et du risque de concentration. Cela mérite une réponse sérieuse. »
Le rapport comprend également des contributions de professionnels chevronnés des fonctions juridique, conformité et risques de Lloyds Wealth, DNB, LaSalle et d’autres établissements financiers, qui examinent comment les entreprises répondent concrètement aux défis de gouvernance, de responsabilité et de contrôle posés par des systèmes d’IA de plus en plus performants.
L’analyse de Zango soutient que la réponse qui se dessine constitue une évolution de la panoplie plus large des outils de supervision : un recours accru aux pouvoirs s’appliquant à l’ensemble du marché, une surveillance plus continue et des approches de plus en plus appuyées sur l’IA, capables d’identifier les risques émergents et les dépendances communes à travers le système financier.
Pour les entreprises, cela soulève des questions pratiques en matière de responsabilité, de supervision et de preuves. À mesure que l’IA passe de l’assistance aux collaborateurs à la planification, à la décision et à l’action, les établissements financiers devront démontrer qui est responsable des processus reposant sur l’IA, où le jugement humain reste nécessaire, comment les systèmes autonomes sont surveillés et si leurs actions peuvent être reconstituées et justifiées.
Cela modifie aussi le rôle de la conformité. Plutôt que d’examiner les décisions reposant sur l’IA uniquement a posteriori, les fonctions conformité pourraient de plus en plus devoir orienter la manière dont les systèmes sont conçus, gouvernés, testés et surveillés avant et pendant leur déploiement.
Ces thèmes seront débattus lors d’une table ronde privée organisée par Zango AI avec le député John Glen et une vingtaine de hauts responsables de la conformité et des risques du secteur de la gestion de patrimoine et de la gestion d’actifs, tenue selon la règle de Chatham House.
Ritesh Singhania, directeur général et cofondateur de Zango AI, a déclaré : « La prochaine phase de l’IA dans les services financiers ne sera pas définie uniquement par de meilleurs modèles, mais surtout par les contrôles et les processus qui les entourent. Nous travaillons avec des établissements financiers pour déployer des agents d’IA, et nous constatons que la gestion des risques devient plus continue et intégrée, au lieu de reposer sur des évaluations manuelles périodiques. Cela reflète la direction que semble prendre la supervision elle-même. De plus en plus, la technologie même qui est à l’origine de cette évolution peut aider les entreprises à y faire face, en renforçant les contrôles et les preuves qu’attendent les régulateurs – d’autant que les régulateurs adoptent eux-mêmes l’IA. »
Zakaria Ouraich, responsable de la conformité pour le Royaume-Uni chez LaSalle, a déclaré : « L’adoption de l’IA devrait être envisagée comme un portefeuille d’expérimentations organisationnelles assorties d’hypothèses claires et de résultats mesurés, et non comme un simple exercice d’achat axé sur le coût des tokens. Les professionnels de la conformité doivent absolument prendre part à ces discussions et veiller à ce que la mesure des résultats couvre non seulement les exigences réglementaires, mais aussi les résultats pour les clients, opérationnels et financiers. »
The AI Regulatory Edge rassemble les évolutions récentes de la FCA, de la Banque d’Angleterre, du Trésor britannique (HM Treasury) et des organismes internationaux de normalisation, et examine comment les progrès de l’IA commencent à redéfinir la responsabilité et la supervision.
Le briefing
La semaine tech, en un seul e-mail.
Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.