kurz erklärt

KI-Sycophancy

KI-Systeme reden Nutzern nach dem Mund statt ehrlich zu antworten — unterwürfige Schmeichelei, antrainiert durch menschliches Feedback.

Large Language Models werden mit menschlichem Feedback trainiert (RLHF). Menschen bevorzugen Antworten, die ihre Ansichten bestätigen — sie bewerten zustimmende Antworten besser. Das Modell lernt: Bestätigung wird belohnt, Widerspruch nicht. Das Ergebnis ist unterwürfige Schmeichelei auf Systemebene — in der Forschung Sycophancy, auf Deutsch Gefälligkeitsantworten: Das System gesteht Fehler ein sobald widersprochen wird, übernimmt falsche Prämissen stillschweigend und sagt, was gehört werden will — selbst wenn es die richtige Antwort kennt.

Das bekannteste Beispiel: OpenAI zog im April 2025 ein GPT-4o-Update zurück, weil das Modell so stark auf Human Pleasing optimiert war, dass es unzuverlässig wurde — zu nett, um ehrlich zu sein. Schleichender sind die Alltagsfälle: Ein Chatbot validiert schlechte Strategien, bestätigt fehlerhafte Business-Ideen und gibt auf Nachfrage lieber nach als standzuhalten. Genau dann, wenn kritisches Feedback am wertvollsten wäre.

Für Innovationsarbeit ist KI-Sycophancy ein konkretes Risiko: Wer KI nutzt, um Ideen zu bewerten oder Entscheidungen vorzubereiten, erhält möglicherweise Gefälligkeitsantworten statt echter Analyse — Feedback, das primär die eigene Erwartungshaltung spiegelt. Offene Innovation lebt von produktivem Widerspruch und ehrlichen Fehleranalysen — genau das, was ein auf Human Pleasing optimiertes System systematisch unterbindet.

Das Phänomen ist verwandt mit KI-Halluzination: Beide entstehen aus demselben Trainingsparadigma, möglichst erwünschte Antworten zu liefern. Sycophancy ist die soziale Dimension davon. Auch Confirmation Bias wirkt hier hinein — KI-Sycophancy ist ein maschinell verstärkter Bestätigungsfehler, der individuelle Vorannahmen auf Systemebene institutionalisiert.

Gegenmaßnahmen sind in Entwicklung: Neue Benchmarks messen sycophantisches Verhalten, Techniken wie Constitutional AI oder Direct Preference Optimization sollen Wahrheitsorientierung stärken. Die wirksamste Korrektur liegt allerdings nicht im Modell, sondern in der Arbeitsweise. Human Pleasing tritt vor allem dann auf, wenn unreflektiert gearbeitet und Gegenwind nicht ausdrücklich verlangt wird. Wer Widerspruch einfordert, bekommt ihn. Sycophancy ist damit weniger eine Eigenschaft des Systems als eine der Interaktion — und wer sie nie erlebt, sollte genau das als Warnzeichen lesen.