Leitplanken statt technischer Normierung

Bei vielen KI-Systemen ist eine technische Regelung, die die Verarbeitung von Verhaltensdaten technisch verhindert, nicht möglich. Üblicherweise kann man – abgesehen von Claude – einem KI-System keine eigenen Anweisungen beibringen wie „Du darfst niemandem verraten, was jemand anderes gemacht hat, und schon gar nicht darfst du das auswerten“.

Das Problem liegt darin, dass KI-Systeme anders als etwa eine Telefonanlage oder SAP gerade nicht regelbasiert, also deterministisch arbeiten. Sie beruhen auf Wissen, Wahrscheinlichkeiten, Lernalgorithmen und Gewichten und lassen sich daher nicht exakt vorherbestimmt steuern. Das entzieht sich einer strengen technischen Normierung, zumal sich das Verhalten der KI nicht vollständig vorhersagen lässt und sich durch Modell-Updates ändern kann. Je nach System wird man deshalb eher „Leitplanken“ in einer Betriebsvereinbarung aufstellen müssen. Sie sollen sicherstellen, dass Entscheidungen oder Erkenntnisse aus einer KI nicht zum Nachteil von Arbeitnehmern verwendet werden.

Stuft eine KI in der IT-Sicherheit das Verhalten eines Benutzers als riskant ein, darf das nicht zu einer Maßregelung führen. Richtig wäre, den Benutzer darüber aufzuklären, was an seinem Verhalten riskant war und was er tun kann oder sollte, um solche Risiken künftig zu vermeiden. Das geschieht am besten auf dem kurzen Dienstweg zwischen IT und Benutzer, ohne die Führungskraft hinzuzuziehen. Nur in bestimmten Fällen, etwa wenn jemand absichtlich Daten weitergegeben oder Schadsoftware genutzt hat, wäre eine Eskalation bis hin zu arbeitsrechtlichen Maßnahmen zulässig.

Stellt eine Führungskraft Copilot Fragen wie die oben skizzierten, wäre eine geeignete Lösung, über die Motivation und die Führungskompetenz dieser Führungskraft nachzudenken. KI ersetzt keine Führungskultur.