Innovation versus Compliance Finanzinstitute auf dem Weg zu ihrer KI-Governance

Eric Günter Krause ist Senior Partner sowie Leiter Finanzservices und Versicherungen Deutschland bei Infosys.

Eric Günter Krause ist Senior Partner sowie Leiter Finanzservices und Versicherungen Deutschland bei Infosys. Foto: Infosys

Während viele Finanzinstitute nach Möglichkeiten suchen, ihre Gestaltungsmöglichkeiten bei der KI-Nutzung als Wettbewerbsvorteil auszuschöpfen, wachsen gleichzeitig die Bedenken zur Verwendung, da klare Grenzen und Richtlinien für den Einsatz dieser Technologie fehlen. Die Häuser wissen nicht, ob sie rechtlich oder gesellschaftlich auf dem richtigen Weg oder auf dem Weg in potenzielle Rechtsbrüche und damit verbundene Strafzahlungen sind.

Angesichts dieser grundsätzlichen Fragestellung und der risikobasierten Regulierung des neuen europäischen KI-Gesetzes (EU AI Act) ist es für sie von entscheidender Bedeutung, sich proaktiv mit einer KI-Governance auseinanderzusetzen. Nur so können Banken ihren Einsatz von KI – die Identifikation und Umsetzung von Use Cases – zukunftsstabil machen. Doch wie können Banken eine möglichst umfassende KI-Governance-Strategie entwickeln, in der sich Transparenz und Wettbewerbsvorteil vereinen lassen?

Banken im Spannungsfeld zwischen Transformation und Regulation

KI und insbesondere generative KI hat das Potenzial, im Finanzwesen eine transformative Wirkung zu entfalten, von der Optimierung des Kundenservice bis hin zur präzisen Risikoanalyse. Moderne Chatbots und künstliche Agenten, wie Avatare mit Modellen auf Basis von Speech-to-Text und Text-to-Speech, bieten dem Kundenstamm sofortige Unterstützung, reduzieren Betriebskosten und schaffen zusätzliche Kapazitäten in Beratungsteams für komplexere Anliegen.

Die Strategie lautet hierbei „Augment – not automate“. Robo-Advisor nutzen leistungsstarke Algorithmen, um maßgeschneiderte Anlageportfolios zu erstellen. Außerdem ermöglichen prädiktive Analysetools Banken und vor allem Kundenmanagerteams, genauere Vorhersagen über Aktienpreise und Marktbedingungen, aber insbesondere zu vielfältigen Abhängigkeiten und Korrelationen, zu treffen. Darüber hinaus können KI-Modelle das Risikomanagement und die Kreditwürdigkeitsprüfung unterstützen, indem sie Muster und Trends identifizieren, aus denen sie für die Zukunft lernen und dem Relationship Manager neue Möglichkeiten der Risikoanalyse und -bearbeitung liefern können.

 

Parallel zu diesen vielfältigen Einsatzmöglichkeiten sind Finanzinstitute einem zunehmenden Druck von externen Einflussfaktoren ausgesetzt, was ihre KI-Nutzung anbelangt. Regulierungen werden immer strenger und die Akzeptanz in der Gesellschaft ist sehr volatil, da diese Technologie natürlich auch missbraucht werden kann. Der unsachgemäße und intransparente Einsatz von KI birgt außerdem das Risiko, dass sich Banken mit Vorwürfen von Voreingenommenheit (Bias) oder datenschutzrechtlichen Verletzungen konfrontiert sehen könnten – schwerwiegende Reputations- und Rechtsschäden können die Folge sein. Angesichts dieser Herausforderungen ist eine fundierte KI-Governance nicht nur ratsam, sondern absolut erforderlich, um die Sicherheit, Integrität, Compliance und vor allem Akzeptanz in der Finanzbranche zu gewährleisten.

Eine holistische KI-Governance: Keine leichte Aufgabe für Finanzinstitute

Angesichts dieser Herausforderungen benötigen Finanzinstitute ein Rahmenwerk (Framework), das den internen Einsatz von KI regelt und verwaltet. Diese KI-Governance ermöglicht es Organisationen, interne Richtlinien und Verfahren zu entwickeln, die auf ihre spezifischen Anforderungen zugeschnitten sind.

Doch das Zusammenführen verschiedener Bankbereiche unter einem Governance Framework ist komplex. Oft besteht eine deutliche Diskrepanz zwischen den Vorstellungen der Front- und Back-End-Teams darüber, wie robust und rechtlich sicher die Ergebnisse von KI-Anwendungen sein müssen.

Im kundennahen Front-End-Bereich, wo beispielsweise Informationen auch ohne Rechtsanspruch zur Verbesserung der User Experience bereitgestellt werden, fühlen sich beratende Teams eingeengt, wenn KI-Governance-Richtlinien zu strikt sind. Im Gegensatz dazu werden im Back-End, beispielsweise bei der Vertragsgestaltung und -erstellung, KI-Anwendungen nur mit klarer Transparenz, dokumentiert und nachvollziehbar – kurz prüfungssicher – eingesetzt. Beispielsweise stellen KI-gestützte Analysen von Vertragsdokumenten im internationalen Handelsrecht oder bei Transaktionen einen deutlich höheren Risikofaktor dar. Hier müssen KI-Ergebnisse rechtlich haltbar sein, da sie bedeutende Auswirkungen auf Geschäftsentscheidungen haben können.

Eine weitere Herausforderung, die es bei KI-Governance-Leitlinien zu berücksichtigen gilt, ist das Haftungsrisiko der Banken. Obwohl die Technologie beispielsweise die Untersuchungsverfahren bei Sanktionen und Geldwäsche automatisieren könnte, bleibt die Anwendung von KI-Tools in diesem Bereich noch eingeschränkt. Die Bank trägt hier die ultimative Verantwortung für Fehler, selbst wenn diese durch die Maschine verursacht werden. Dies führt zu einer vorsichtigeren Herangehensweise an die Implementierung von KI-Software in kritischen Bereichen.

Handlungsempfehlungen für nachhaltige KI-Integration in Banken

Eine erfolgreiche KI-Governance muss die unterschiedlichen Stakeholder eines Finanzinstituts berücksichtigen. Die Marktseite sowie die kundennahen Bereiche sind einerseits bestrebt, KI einzusetzen, um schnell und effizient einen möglichst großen Kundenstamm zu erreichen und Umsätze zu steigern. Der Risikofokus andererseits liegt auf möglichst umfassender und schneller Erfassung der Risikopositionen. Eine ausgewogene Governance muss daher die spezifischen Anforderungen zu Standards, Frameworks, Dokumentation, Sicherheit, Monitoring, Ethik und Werten in Einklang bringt.

Von zentraler Bedeutung ist ein kontinuierlich modernisiertes Datenmanagement. In vielen Banken liegt eine Vielzahl von redundanten Dokumenten vor, die in Papierform, elektronisch oder in Silos abgelegt sind. Finanzinstitute sollten sicherstellen, dass alle relevanten Dokumente und Daten in einem zentralen Repository gespeichert sind. Dadurch werden sie für KI-Algorithmen nutzbar und liefern kontinuierlich konsistente Ergebnisse, die widerspruchsfrei sind. Das KI-System und die entsprechenden Daten müssen außerdem so aufgesetzt werden, dass für das Generieren von Empfehlungen oder Zusammenfassungen die zutreffenden Daten verwendet werden: Der Algorithmus muss in der Lage sein, relevante und aktuelle Informationen identifizieren und präsentieren zu können, ohne dass dabei veraltete oder irrelevante Daten berücksichtigt werden.

Finanzinstitute sollten außerdem bedenken, dass ihre KI-Modelle kontinuierlich upgedatet werden und immer neue Use Cases hinzukommen. Um diese Anwendungsfälle homogen hinsichtlich der damit verbundenen Implikationen und Risiken bewerten zu können, müssen Institute in der Lage sein, diese zu inventarisieren. Nur so ist es möglich, diese kontinuierlich und vor allem ohne zusätzlichen Aufwand zu monitoren und zu bewerten (zum Beispiel im Hinblick auf die vom EU AI Act geforderten Risikokategorien) und ein effektives und effizientes Risikomanagement aufzubauen.

Um das Vertrauen der Kundschaft zu stärken, ist es außerdem von entscheidender Bedeutung, KI-Modelle und deren Entscheidungen transparent, widerspruchsfrei und ohne Bias für alle Nutzungsgruppen zu konzipieren und zu implementieren. Durch regelmäßige Überprüfungen auf diskriminierende Faktoren sollte sichergestellt werden, dass keine unerwünschten Voreingenommenheiten auftreten. Allerdings müssen die Bemühungen um Transparenz und Erklärbarkeit mit dem Wettbewerbsvorteil in Einklang gebracht werden, den einige KI-Systeme – zum Beispiel bei Risk Score Assessment – bieten können. Banken müssen daher einen sorgfältigen Ausgleich zwischen Transparenz und Wettbewerbsfähigkeit finden, um den Erwartungen ihrer Kundschaft gerecht zu werden und gleichzeitig ihre Marktposition zu stärken.

 

Nicht zuletzt erfordert eine effektive KI-Governance im Finanzwesen kontinuierliche Schulungen und Sensibilisierungsmaßnahmen für interne Teams. Dadurch können sie mit den neuesten Entwicklungen und Best Practices im Bereich KI vertraut gemacht werden und gegebenenfalls umgeschult werden, falls sich ihre Tätigkeitsbereiche durch den Einsatz dieser Tools verändern. So können Banken sicherstellen, dass ihre Teams über das erforderliche Know-how verfügen, um KI-gestützte Prozesse effektiv zu implementieren und zu überwachen. Letztendlich trägt eine gut geschulte und sensibilisierte Mannschaft wesentlich dazu bei, den Erfolg einer KI-Governance sicherzustellen.

Flexibilität und Voraussicht sind Trumpf

Kaum eine Branche eignet sich so sehr für den Einsatz von KI wie Banken. Die vollständige Digitalisierung des Bankgeschäfts rückt durch die Nutzung von KI wieder einen Schritt näher. Die Finanzindustrie muss sich jedoch der Risiken und Grenzen bewusst sein und Anwendungsfälle kontinuierlich mit ethischen und regulatorischen Rahmenbedingungen abgleichen.

Während einige Banken interne Governance-Mechanismen implementieren, sind diese oft nicht auf die Gesamtbank ausgerichtet, sondern werden isoliert für einzelne Bereiche oder Anwendungsfälle entworfen. Dies kann jedoch herausfordernd sein, da sich die Entwicklungen und Anwendungsfälle von KI kontinuierlich verändern und Regulationen wie der EU AI Act hier nicht differenzieren. Somit erfordert eine effektive KI-Governance ein hohes Maß an Voraussicht und ein adaptives Risikomanagement, welches sich durchaus auch selbst die KI zunutze machen sollte – generative KI-Plattformen können auch bei der Validierung helfen. Lösungen lassen sich hierbei sowohl konzeptionell organisatorisch als auch technologisch finden. Einen einzigen richtigen Weg gibt es nicht.

Von der Führungsebene von Finanzinstituten ist hier nicht nur eine aktive Gestaltung des internen Rahmenwerks gefordert, sondern auch eine aktive Beteiligung am gesellschaftspolitischen Diskurs rund um KI. Die Unternehmen, die hier als Vorreiter auftreten, haben das Potential, die Finanzlandschaft der Zukunft aktiv mitzugestalten und sich so einen langfristigen Wettbewerbsvorteil zu sichern.


Über den Autor:

Eric Günter Krause, der in Deutschland die Financial Services & Insurance Practice des Managementberatungsunternehmens Infosys Consulting verantwortet, verfügt über mehr als 25 Jahre Erfahrung im Finanzsektor und in der strategischen und operativen Umgestaltung von Unternehmen.

Wie hat Ihnen der Artikel gefallen?

Danke für Ihre Bewertung
Leser bewerteten diesen Artikel durchschnittlich mit 0 Sternen