Daten zwischen Benutzern und Schatten-KI

KI lernt auch aus ihrer Verwendung. Eine weiterentwickelte KI lernt aus früheren Anfragen, ihren Antworten und den Reaktionen darauf und erweitert so ihren „Erfahrungsschatz“, letztlich die zugrunde liegenden Daten. KI kann also auch mit Benutzerdaten trainiert werden.

Ein Beispiel: Lässt man eine sehr einfache KI die Sätze „Er kümmert sich um die Kinder“ und „Sie repariert den Vergaser“ ins Finnische übersetzen, lauten die Ergebnisse „Hän huolehtii lapsista“ und „Hän korjaa kaasuttimen“. „Hän“ ist ein geschlechtsneutrales Pronomen. Übersetzt man die Sätze zurück ins Deutsche, wird daraus „Sie kümmert sich um die Kinder“ und „Er repariert den Vergaser“. Die einfache KI geht von Wahrscheinlichkeiten aus und verstärkt so das Vorurteil, Kinder seien Frauensache und Technik Männersache. Eine weiterentwickelte KI lernt dagegen dazu. Lässt derselbe Benutzer die Sätze später zurückübersetzen, erkennt sie aus der früheren Anfrage, dass wohl „sie“ den Vergaser repariert und „er“ sich um die Kinder kümmert.

Das bedeutet umgekehrt: Informationen, die man einer KI zugänglich macht, könnten von ihr generell zum Training genutzt werden und damit auch anderen zur Verfügung stehen. Ein Unternehmen muss also genau prüfen, was es einer KI preisgibt. Das wäre nicht nur ein Datenschutzproblem, sondern würde auch Geschäftsgeheimnisse gefährden. Microsoft sichert bei Copilot für Geschäftskunden zu, dass Kundendaten nicht für das Training der Modelle verwendet werden und dass Daten und KI-Erfahrungen nur innerhalb der Berechtigungen des jeweiligen Benutzers genutzt werden. Entsprechendes gilt für Firmenlizenzen anderer Anbieter.

Wenn keine oder keine nutzbaren Daten vorhanden sind, nützt auch die klügste KI nichts. KI muss mit gut strukturierten Daten versorgt werden, um sinnvolle Ergebnisse zu liefern. Manche Organisationen scheuen den dafür nötigen Aufwand aus Kostengründen und wundern sich dann, dass ihre KI-Projekte scheitern.