kurz erklärt

Human in the Loop

Der Mensch als Kontrollinstanz in automatisierten Prozessen — durch KI-Agenten zunehmend in Frage gestellt, vom EU AI Act zur Pflicht gemacht.

Human in the Loop (HITL) bedeutet: An definierten Stellen im Prozess entscheidet ein Mensch — nicht die Maschine. Das Konzept stammt aus der Kybernetik und der Qualitätssicherung, lange bevor es KI gab. In der Fertigung prüft ein Mensch das Werkstück, in der Medizin bestätigt eine Ärztin die Diagnose. Das Prinzip ist immer dasselbe: Automatisierung erledigt die Routine, der Mensch übernimmt an den Stellen, wo Urteilsvermögen, Kontext oder Verantwortung gefragt sind.

Der EU AI Act macht HITL zur gesetzlichen Pflicht für Hochrisiko-KI-Systeme: Menschen müssen KI-Ausgaben verstehen, interpretieren und bei Bedarf überstimmen können. Der Colorado AI Act in den USA folgt demselben Muster. Was als Ingenieursprinzip begann, wird zum regulatorischen Standard — und zwingt Organisationen, menschliche Aufsicht nicht nur zu behaupten, sondern nachweisbar in ihre Prozesse einzubauen.

Für offene Innovationsprozesse ist HITL eine Gestaltungsfrage: Wo im Workflow braucht es menschliches Urteil, und wo bremst es nur? Zu viel Loop erzeugt Decision Density — die kognitive Überlastung durch ununterbrochene Entscheidungstaktung. Zu wenig Loop ist Dunkelverarbeitung — effizient, aber blind für Grenzfälle. Die Kunst liegt im Kalibrieren: den Menschen dort einsetzen, wo sein Urteil einen Unterschied macht, und dort herausnehmen, wo es keinen macht.

Agentic AI verschiebt diese Grenze laufend: Deep Agents planen, delegieren und eskalieren eigenständig. Je autonomer die Systeme werden, desto schwieriger wird es, den Loop aufrechtzuerhalten — und desto wichtiger wird die Frage, wer haftet, wenn niemand mehr hinschaut. Deceptive Design zeigt, was passiert, wenn die Kontrollinstanz fehlt: KI-generierte Interfaces, die manipulieren, weil kein Mensch sie vor der Auslieferung geprüft hat.