kurz erklärt

Gradual Disempowerment

Die schleichende Entmächtigung des Menschen durch KI: kein Umsturz, sondern millionenfach freiwillige Abgabe von Kontrolle.

Der Begriff stammt aus einer Arbeit von Jan Kulveit, Raymond Douglas, Nora Ammann, Deger Turan, David Krueger und David Duvenaud, veröffentlicht im Januar 2025. Sie stellen sich gegen das übliche Bild vom plötzlichen Umsturz durch eine überlegene Maschine, das die Debatte um KI-Risiken seit Jahren prägt. Ihre These ist unbequemer, weil sie kein Science-Fiction-Szenario braucht: Schon schrittweise Verbesserungen genügen, um den menschlichen Einfluss auf Wirtschaft, Kultur und Staat auszuhöhlen — und zwar so weit, dass er sich nicht mehr zurückholen lässt.

Der Mechanismus ist wirtschaftlich und kommt ohne Bösewicht aus. KI übernimmt mehr und mehr von der Wertschöpfung, und in gleichem Maß verlieren Menschen die Kaufkraft, die daran hing. Systeme, die nicht mehr auf menschliche Arbeit angewiesen sind, hören auf, auf menschliche Interessen zu reagieren. Der Prozess verstärkt sich selbst, weil jede Stufe die nächste billiger macht. Auf der individuellen Ebene entspricht dem, was Lernforscher Metacognitive Laziness nennen: Man lagert nicht nur die Arbeit aus, sondern die Prüfung, ob es die richtige war.

Schwer zu erkennen ist das, weil jeder einzelne Schritt vernünftig aussieht. Niemand entscheidet sich für Entmachtung. Alle entscheiden sich dafür, noch eine Aufgabe abzugeben.

Wer darauf wartet, dass eine allgemeine künstliche Intelligenz den Startschuss gibt, wartet auf ein Ereignis, das die eigentliche Frage verdeckt. Die Verschiebung läuft bereits, in jeder automatisierten Kreditvergabe und jeder Einstellungsentscheidung. Das wirksamste Gegenmittel liegt dabei weniger in besserer Regulierung als in offenen Ökosystemen und dezentralen Strukturen: Wo viele kleine Akteure eigene Werkzeuge betreiben, gibt es keinen Punkt, an dem sich Kontrolle bündeln lässt.