Kill-Switches und „Human in the Loop“

Gelegentlich wird eingewandt, man könne KI-Systeme mit „Kill-Switches“ ausstatten, die eine außer Kontrolle geratene KI einfach abschalten. So einfach ist es aber nicht. Vor allem können Open-Weights- und erst recht Open-Source-Modelle lokal auf PCs oder eigenen Servern laufen. Dann müsste jeder PC und jeder Server mit einer solchen, gegebenenfalls ferngesteuerten Funktion ausgestattet sein – ein illusorisches Vorhaben. Möglicherweise ist die Forderung nach Kill-Switches, die auffallend oft von den US-amerikanischen Anbietern von Frontier-Modellen kommt, auch eine Strategie zur Sicherung der eigenen Marktposition. Wenn ein solches Instrument nur zentral gesteuert werden kann, könnte die Folge sein, dass dezentral genutzte OW- und OS-Modelle eingeschränkt werden müssten – was das Geschäftsmodell der großen Anbieter schützen würde.

Der Ansatz „Human in the Loop“, nach dem stets Menschen das Geschehen und die Handlungen der KI kontrollieren müssen, ist gut und richtig. Er setzt aber voraus, dass alle Betreiber von KI-Systemen ihn befolgen. Betreiber mit bösen Absichten, Betreiber, denen es an Kompetenz fehlt, oder solche, die aus Kostengründen zu wenig menschliche Kontrolle ausüben, werden ihn nicht, nicht konsequent oder falsch anwenden.

Der Hugging-Face-Vorfall hat gezeigt, was gegen eine außer Kontrolle geratene oder absichtlich schädlich eingesetzte KI derzeit am besten hilft: eine noch bessere KI, die von kompetenten Menschen auf richtige Weise und mit guten Absichten eingesetzt wird. Ob dieses Szenario große Hoffnung rechtfertigt, dass „alles gut“ wird, darf bezweifelt werden.