Ethische KI Wie Finanzinstitute die Vorurteilsfreiheit künstlicher Intelligenz sicherstellen

Seite 3 / 3

Eine dieser Qualitätskennzahlen bezieht sich auf die Vorhersagegenauigkeit des Modells. Während der Modellentwicklungsphase legt man eine erwartete Genauigkeit fest. Wenn die aktuelle Qualität im Betrieb dann aber beispielsweise um mehr als 15 Prozent von der als erwartbar definierten Genauigkeit abweicht, liegt möglicherweise eine Veränderung, eine sogenannte Drift, in den zugrunde liegenden Daten vor. Das Monitoring-Werkzeug sollte durch eine Warnmeldung darauf aufmerksam machen. Denn sobald beim Einsatz der KI Auffälligkeiten zutage treten, ist es für die Datenwissenschaftler an der Zeit, bei ihren KI-Algorithmen nachzusteuern oder gegebenenfalls ein völlig neues Modell zu entwickeln.

Die Qualität virtueller Assistenten

Auch bei KI-Anwendungen, die von Haus aus ein nur geringes Risiko verursachen, lohnt das kontinuierliche Monitoring. Manche Vermögensberater setzen beispielsweise KI-gestützte virtuelle Assistenten ein, die die Kommunikation mit den Klienten automatisiert unterstützen. Diese virtuellen Assistenten verstehen natürliche Sprache und unterbreiten Beratern automatische Antwortvorschläge auf die Anfragen ihrer Kunden. Hier kann ein Dashboard zum Monitoring der KI-Leistung die Datenwissenschaftler beispielsweise darauf aufmerksam machen, wenn der virtuelle Assistent immer öfter die Intention von Kundenanfragen missversteht oder Beratern immer häufiger geschlechtsspezifische Antwortvorschläge unterbreitet.

Der Mensch entscheidet

Die kontinuierliche Überwachung, wie gut und vorurteilsfrei ein Modell agiert, ist das A und O auf dem Weg hin zu einer ethischen KI. Zwar sind KI-Systeme bereits in der Lage, andere KI-Systeme zu trainieren – aber ein eigenständiges Urteil über deren moralische Unbedenklichkeit ist einer KI naturgemäß unmöglich. Letztlich muss immer ein Mensch abwägen, wie gravierend ein Qualitätsproblem ist und ob eine KI moralische Standards verletzt. Für Finanzinstitute ist dies gleich aus zwei Gründen essenziell: zur Vermeidung von Reputationsrisiken und zur Wahrung eigener wirtschaftlicher Interessen.

Über den Gastautor:
Gery Zollinger ist Leiter für Datenwissenschaften und -analyse bei Avaloq, einem Anbieter von digitalen Banking-Lösungen, und seit mehr als zehn Jahren im Bereich Analytics und quantitative Modellierung tätig. Das Unternehmen bietet seine Kernbankenplattform und Vermögensverwaltungstechnologie in Form von Software as a Service- (SaaS) und On-Premises-Modellen an. Davor arbeitete Gery Zollinger bei Credit Suisse im globalen Credit Risk Analytics Team und war dort für die Kreditrisikomodellierung innerhalb der Abteilungen Private Banking und Investment Banking verantwortlich.

Wie hat Ihnen der Artikel gefallen?

Danke für Ihre Bewertung
Leser bewerteten diesen Artikel durchschnittlich mit 0 Sternen