Verzerrungen und Fehlentscheidungen

Die meisten KI-Systeme arbeiten mit Techniken des maschinellen Lernens, sei es als Deep Learning mit neuronalen Netzen oder als einfachere Erkennung von Mustern und Gesetzmäßigkeiten. Dabei besteht immer die Gefahr, dass „falsche“ Muster erkannt und als Gesetzmäßigkeit angewandt werden. Das Ergebnis können Verzerrungen (Bias) und daraus folgende Fehlentscheidungen sein. Was eine KI lernt, hängt also wesentlich von der Qualität und Kuratierung der Trainingsdaten und von den Parametern ab.

Soll ein lernendes System etwa bei der Personalauswahl unterstützen, besteht die Gefahr, dass es sich an den Daten der bereits vorhandenen Beschäftigten orientiert. Dann werden bestehende, möglicherweise nachteilige Tendenzen verstärkt, und das eigentliche Ziel – die besten Bewerber zu finden und Vielfalt zu fördern – wird gerade verfehlt.

Es hat sich gezeigt, dass manche KI-gestützten Systeme zum Beispiel zu Rassismus neigen. Das liegt nicht daran, dass sie selbst rassistische Ansichten hätten – das setzte Absicht und damit Bewusstsein voraus. Vielmehr haben sie die in den Daten erkennbare rassistische Tendenz als Muster erkannt und wenden es an und verstärken es. Gegensteuern lässt sich über geeignete Parameter, manchmal wird dabei aber auch übersteuert. Der Versuch, Systeme auf Vielfalt hin zu parametrisieren, führte gelegentlich zu skurrilen Ergebnissen wie Inuit mit Rastalocken.

Solche Lernprozesse müssen deshalb durch menschliche Feedbackschleifen immer wieder kalibriert und verbessert werden, denn die Systeme verfügen über keine eigene Ethik. Viele Entscheidungen sollten nicht ausschließlich datenbasiert, sondern auch an einem ethischen Maßstab ausgerichtet sein. KI-Systeme, die Entscheidungen unterstützen, beruhen aber oft ausschließlich auf Daten.

Auch hierin liegt ein Grund, warum KI-Projekte oft nicht den erwünschten Nutzen bringen. Der eigene Datenbestand, mit dem die KI arbeitet oder trainiert wird, ist häufig nicht homogen und umfassend genug für valide Aussagen. Und die Kuratierung und Kennzeichnung der Trainingsdaten erfordert einen erheblichen personellen und damit finanziellen Aufwand, den Unternehmen scheuen.