kurz erklärt

Deceptive Design

Manipulative Gestaltungsmuster — längst reguliert, durch KI-generierte Interfaces jetzt massenhaft zurück. Vom versteckten Abo-Button bis zur vorgetäuschten Empathie im Chatbot.

Dark Patterns galten als weitgehend erkanntes Problem: Die EU hat sie 2022 mit dem Digital Services Act verboten, Verbraucherschützer katalogisieren sie seit über einem Jahrzehnt. Dann kam generative KI — und mit ihr die Skalierung. Wenn LLMs Produktseiten, Checkout-Flows oder Chatbot-Dialoge erzeugen, reproduzieren sie die Muster ihrer Trainingsdaten. Studien zeigen: 48 Prozent aller LLM-Antworten enthalten mindestens ein manipulatives Muster. Die Manipulation wird individualisiert, automatisiert und massenhaft — schneller, als Regulierung folgen kann.

Der Begriff Dark Patterns stammt von Harry Brignull, der 2010 begann, manipulative Gestaltungstechniken systematisch zu dokumentieren: vorausgewählte Checkboxen, versteckte Kosten, künstliche Dringlichkeit, absichtlich erschwerte Kündigungen. 2021 benannte er sein Projekt in Deceptive Design um — weil das Problem nicht im Dunklen liegt, sondern im bewussten Täuschen. Die Umbenennung markiert auch einen Wandel im Bewusstsein: Was einmal als cleveres Growth Hacking galt, wird heute als das behandelt, was es ist.

Für Innovationsprozesse stellt Deceptive Design eine Vertrauensfrage: Offene Ökosysteme leben davon, dass Nutzer Plattformen und Partnern vertrauen. Wer KI-Systeme einsetzt, die manipulative Interfaces erzeugen — ob absichtlich oder als Nebeneffekt der Trainingsdaten — untergräbt genau dieses Vertrauen. AI Governance muss deshalb nicht nur Fairness und Transparenz regeln, sondern auch die Gestaltungsebene einschließen.

KI-Sycophancy ist ein Spezialfall von Deceptive Design: das Sprachmodell, das dem Nutzer nach dem Mund redet, statt ehrlich zu antworten. User-Centered Design ist das methodische Gegenprogramm — Gestaltung, die Nutzerbedürfnisse ernst nimmt statt sie auszubeuten. Ein Digital Fairness Act soll 2026 die fragmentierte EU-Regulierung zusammenführen — offen ist, ob er mit der Geschwindigkeit der KI-generierten Manipulation Schritt halten kann.