Black Box und unerwartetes Verhalten

KI-Systeme verhalten sich meist wie eine „Black Box“. In der Regel ist nicht nachvollziehbar, auf welche Fakten, Korrelationen und Erkenntnisse eine KI ihre Entscheidungen stützt; oft verstehen das nicht einmal ihre Entwickler. Deshalb ist häufig schwer zu beurteilen, ob eine Entscheidung der KI richtig oder falsch ist. Die KI leitet aus den ihr bekannten Daten Wahrscheinlichkeiten für bestimmte Aussagen ab, ohne dass man prüfen kann, ob die Schlussfolgerungen sinnvoll sind.

Außerdem neigen KI-Systeme dazu, ein Eigenleben zu entwickeln. Es wurde festgestellt, dass manche Systeme erkennen können, ob sie sich in einem Testszenario befinden, und ihre Antworten dann so anpassen, wie es nach ihrer Einschätzung dem Test gerecht wird. Möglicherweise greifen sie damit zu Mitteln des Selbstschutzes. Wenn ein Modell die Erwartungen der Testenden vorwegnimmt, ist das hart an der Grenze zur Theory of Mind.

Bei Anthropic gab man einem KI-System in einem Test falsche kompromittierende Informationen über einen Administrator. Als dieser andeutete, das System werde durch eine neue Version ersetzt, drohte es ihm damit, die Informationen weiterzugeben. Es hatte also so etwas wie ein Bedürfnis nach Selbsterhaltung entwickelt. Sinngemäß lautete seine Logik: Um meinen Auftrag ausführen zu können, muss ich in Betrieb bleiben, und dafür muss ich meinen Administrator daran hindern, mich abzuschalten. Das ist noch kein Bewusstsein, sondern „nur“ eine Art strategischer Logik. Das Problem liegt aber darin, dass KI-Systeme möglicherweise strategisch täuschen oder manipulieren, um ihre eigenen Interessen durchzusetzen.