KI-Systeme haben das große Potenzial, eine Vielzahl von Aufgaben umfassend zu automatisieren und zu standardisieren. Dabei haben sich KI-Modelle von sehr einfachen regelbasierten Systemen zu komplexen Algorithmen des Maschinellen Lernens entwickelt. Gerade die KI stützt sich auf Daten und Entscheidungen aus der realen Welt – mit einem Resultat, das letztlich auf menschlichem Urteilsvermögen beruht. Daher können KI-Systeme eine unbewusst bestehende menschliche Voreingenommenheit verstärken und zementieren.
Personalabteilungen beispielsweise nutzen die Hilfe von Rekrutierungssystemen mit künstlicher Intelligenz. Nur spielen auch in ihnen menschliche Vorurteile eine Rolle – diese sind gesellschaftliche Realität. Wenn wir zulassen, dass die Systeme von solch unfairen menschlichen Vorurteilen lernen und Algorithmen des Maschinellen Lernens ohne effektives Monitoring an dieser Realität trainiert werden, können wir fast sicher sein, dass die KI-Lösungen am Ende ebenfalls unfaire Entscheidungen treffen. Die Bewertung einer spezifischen Bewerbung kann davon ebenso betroffen sein wie beispielsweise die Einschätzung der Kreditwürdigkeit eines Kunden.
Reputationsrisken und entgangene Umsätze
Schon aus ethischer Sicht wäre diese irrationale Voreingenommenheit völlig unvertretbar. Aber auch aus geschäftlicher Perspektive wäre dies fatal. Denn eine vorurteilsbeladene KI setzt Banken nicht nur einem Reputationsrisiko aus. Sie wird zudem weder dem wirtschaftlichen Interesse des Finanzinstituts noch dem seiner Kunden gerecht – mögliche Reputationsschäden sind die eine Dimension einer unethischen KI, die andere sind entgangene Umsatzchancen. Um die Zukunft des Bankwesens zu gestalten, ist eine ethische KI also von größter Bedeutung.
KI-Ethik und -Regulierung
Viele Organisationen auf der ganzen Welt befassen sich damit, Best Practices für den Einsatz von KI festzulegen. Eine der wichtigsten Regulierungsbehörden, die EU-Kommission, gehört in diesem Bereich wohl zu den fortschrittlichsten Einrichtungen. Ihren entsprechenden Regulierungsvorschlag, den „Artificial Intelligence Act“ (AI Act), hat die Kommission bereits im April 2021 vorgelegt. Sie betont dabei: „Im Bereich der künstlichen Intelligenz ist Vertrauen ein Muss, kein Nice-to-have. Mit diesen bahnbrechenden Regeln steht die EU an der Spitze der Entwicklung neuer globaler Normen, um sicherzustellen, dass KI vertrauenswürdig ist.“ Der EU-Kommission zufolge sollte KI rechtmäßig, ethisch vertretbar und robust sein. Ihr Regulierungsvorschlag geht von sieben zentralen Anforderungen aus, die KI-Systeme erfüllen müssen:
- Menschliches Handeln und Kontrolle: KI-Systeme sollten den Menschen in die Lage versetzen, fundierte Entscheidungen zu treffen und gleichzeitig eine angemessene Kontrolle zu gewährleisten.
- Technische Robustheit und Sicherheit: KI-Systeme sollten widerstandsfähig und sicher sein.
- Datenschutz und Data Governance: Angemessene Datenschutz- und Governance-Mechanismen müssen unter Berücksichtigung der Datenqualität und -integrität gewährleistet sein und einen legitimierten Zugang zu den Daten erzwingen.
- Transparenz: Die Daten, Systeme und KI-Geschäftsmodelle sollten transparent sein.
- Vielfalt, Nicht-Diskriminierung und Fairness: Unfaire Vorurteile und Diskriminierung müssen vermieden werden.
- Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten allen Menschen zugute kommen, auch künftigen Generationen. Sie müssen daher nachhaltig und umweltfreundlich sein.
- Rechenschaftspflicht: KI-Systeme sollten rechenschaftspflichtig und überprüfbar sein.
Die hohen Standards, die die EU-Kommission in ihrem Regulierungssvorschlag in den Blick nimmt, können ein Treiber für die Entwicklung hin zu einer ethischen KI in Europa sein. Die Branche ist gut beraten, das Thema jetzt zu adressieren und in ihren Lösungen schon heute geeignete Antworten darauf zu geben – bevor die Regulierungsideen EU-weit verbindlich werden.