Ethische Risiken und falsche Schlüsse

Ethische Risiken lassen sich am autonomen Fahren veranschaulichen. Ein Fahrzeug erkennt, dass ihm ein Lkw mit hoher Geschwindigkeit auf der eigenen Spur entgegenkommt. Weicht es nach rechts aus, gefährdet es eine Gruppe von Rentnern, weicht es nach links aus, ein spielendes Kind. Versucht es eine Vollbremsung, gefährdet es die Insassen, weil es vermutlich nicht rechtzeitig zum Stehen kommt. Wessen Leben ist mehr wert? Diese Entscheidung sollte eine KI keinesfalls treffen dürfen.

Ein zugespitztes Beispiel aus der Medizin zeigt, wohin reine Mustererkennung ohne Weltverständnis führen kann: Eine KI erhält die Aufgabe, Krebs bei Menschen zu beseitigen. Sie erkennt das Muster, dass nur lebende Menschen Krebs bekommen. Also tötet sie alle Menschen – was sie zum Glück noch nicht kann – und hat ihren Auftrag perfekt erfüllt.

Weniger dramatisch, aber lehrreich sind falsche Schlüsse bei Assistenzsystemen. Die Mutter des Autors verbrachte mit einer Freundin einige Tage in seiner Wohnung. Die beiden stellten fest, dass Alexa Musikwünsche erfüllt, und machten sich einen Spaß daraus, eher unorthodoxe Wünsche zu äußern. Der Autor brauchte anschließend einige Tage, um Alexa beizubringen, dass er Peter Alexander, Bruce Low und Heintje nicht so gern hört.

KI ist immer von der Qualität und Validität der Daten abhängig, aus denen sie Schlüsse zieht. Das wissen auch die Entwickler, die deshalb stetig an Fähigkeiten und Qualität arbeiten. Darüber hinaus ist es Aufgabe der Politik, Grenzen und Regeln für KI-gestützte Entscheidungen zu setzen, die auf ethischen Grundsätzen beruhen. Dabei geht es auch um die Frage, wer die Verantwortung für Entscheidungen der KI trägt. Das betrifft das autonome Fahren ebenso wie medizinische, wirtschaftliche, technische oder andere Entscheidungen, die die Lebensumstände oder sogar das Leben von Menschen berühren.