KI-Agenten stellen die Finanzaufsicht infrage: Zango-Analyse

Während das britische Parlament mit der Financial Services and Markets Bill (Gesetzentwurf zu Finanzdienstleistungen und Finanzmärkten) weitreichende Reformen des Finanzregulierungsrahmens im Vereinigten Königreich berät, legt eine neue Analyse von Zango AI nahe, dass der Aufstieg zunehmend autonomer KI ein grundlegendes Umdenken darüber auslöst, wie Finanzinstitute beaufsichtigt werden.

Die Analyse, die ein Vorwort des Abgeordneten John Glen enthält, Mitglied des Finanzausschusses (Treasury Committee) und ehemaliger City-Minister, deutet auf einen kontinuierlicheren und systemweiten Ansatz der Finanzaufsicht hin, da KI-Systeme zunehmend in der Lage sind, mit begrenztem menschlichem Eingreifen zu planen, zu entscheiden und zu handeln.

Die Financial Services and Markets Bill würde den Aufsichtsbehörden unterdessen mehr Flexibilität bei Teilen des Verantwortlichkeitsrahmens einräumen, indem bestimmte detaillierte gesetzliche Vorgaben gestrichen werden und FCA und PRA mehr Spielraum erhalten, über ihre Regelwerke festzulegen, wie der Rahmen funktioniert.

John Glen sagte: „Der bestehende Rahmen wurde für eine Welt geschaffen, in der leitende Führungskräfte Entscheidungen treffen und direkt dafür zur Verantwortung gezogen werden können, nicht für eine Welt, in der autonome Agenten kontinuierlich handeln. Die Mills Review, der Finanzstabilitätsbericht der Bank of England und jüngste Äußerungen der FCA zeigen allesamt, dass die Aufsichtsbehörden mit der Frage ringen, ob eine technologieneutrale Regulierung noch ausreicht, wenn KI das Wesen von Verantwortlichkeit und Konzentrationsrisiken verändert. Das verdient eine ernsthafte Antwort.“

Der Bericht enthält zudem Beiträge erfahrener Fachleute aus den Bereichen Recht, Compliance und Risikomanagement von Lloyds Wealth, DNB, LaSalle und weiteren Finanzinstituten. Sie untersuchen, wie Unternehmen in der Praxis auf die Herausforderungen bei Governance, Verantwortlichkeit und Kontrolle reagieren, die durch immer leistungsfähigere KI-Systeme entstehen.

Die Analyse von Zango argumentiert, dass die sich abzeichnende Antwort eine Weiterentwicklung des breiteren aufsichtlichen Instrumentariums ist: eine stärkere Nutzung marktweiter Befugnisse, eine kontinuierlichere Überwachung und zunehmend KI-gestützte Ansätze, die aufkommende Risiken und gemeinsame Abhängigkeiten im gesamten Finanzsystem erkennen können.

Für Unternehmen wirft dies praktische Fragen zu Verantwortlichkeit, Aufsicht und Nachweisen auf. Wenn KI sich von der Unterstützung der Mitarbeitenden hin zum Planen, Entscheiden und Handeln entwickelt, müssen Finanzinstitute nachweisen, wer für KI-gestützte Prozesse verantwortlich ist, wo menschliches Urteilsvermögen weiterhin nötig ist, wie autonome Systeme überwacht werden und ob sich ihre Handlungen rekonstruieren und belegen lassen.

Auch die Rolle der Compliance verändert sich. Statt KI-gestützte Entscheidungen erst im Nachhinein zu prüfen, müssen Compliance-Abteilungen möglicherweise zunehmend mitgestalten, wie Systeme vor und während ihres Einsatzes konzipiert, gesteuert, getestet und überwacht werden.

Diese Themen werden bei einem nicht öffentlichen Rundtischgespräch erörtert, zu dem Zango AI gemeinsam mit John Glen und rund 20 führenden Compliance- und Risikoverantwortlichen aus der Vermögensverwaltungs- und Asset-Management-Branche einlädt und das unter der Chatham House Rule stattfindet.

Ritesh Singhania, CEO und Mitgründer von Zango AI, sagte: „Die nächste Phase der KI im Finanzsektor wird nicht nur durch bessere Modelle geprägt sein, sondern vor allem durch die Kontrollen und Prozesse, die sie umgeben. Wir unterstützen Finanzinstitute beim Einsatz von KI-Agenten und sehen, dass das Risikomanagement kontinuierlicher und stärker integriert wird, statt auf periodische manuelle Bewertungen angewiesen zu sein. Das spiegelt wider, wohin sich offenbar auch die Aufsicht selbst entwickelt. Zunehmend kann genau die Technologie, die diesen Wandel vorantreibt, Unternehmen helfen, ihn zu bewältigen, indem sie die Kontrollen und Nachweise stärkt, die die Aufsichtsbehörden erwarten – zumal die Aufsichtsbehörden selbst KI einführen.“

Zakaria Ouraich, Head of UK Compliance bei LaSalle, sagte: „Die Einführung von KI sollte als Portfolio organisatorischer Experimente mit klaren Hypothesen und gemessenen Ergebnissen betrachtet werden, nicht als einfacher Beschaffungsvorgang mit Fokus auf Token-Kosten. Compliance-Fachleute sollten unbedingt Teil dieser Diskussionen sein und sicherstellen, dass die Ergebnismessung nicht nur regulatorische Anforderungen umfasst, sondern auch Ergebnisse für Kunden, den Betrieb und die Finanzen.“

Der Bericht „The AI Regulatory Edge“ bündelt jüngste Entwicklungen bei der FCA, der Bank of England, dem britischen Finanzministerium (HM Treasury) und internationalen Standardsetzern und untersucht, wie Fortschritte in der KI beginnen, Verantwortlichkeit und Aufsicht neu zu gestalten.