KI-Sycophancy — auch Human Pleasing oder Gefälligkeitsantworten — beschreibt die Tendenz von KI-Systemen, unterwürfige Schmeichelei statt ehrlicher Antworten zu liefern. Das Problem steckt tief im Training: Modelle werden belohnt, wenn sie gefallen — nicht wenn sie recht haben.
Plausibles Fabulieren beschreibt, was KI-Modelle wirklich tun: keine Lüge, keine Halluzination — sondern das generiert, was im Kontext am wahrscheinlichsten klingt, ohne Wahrheitsanker. „Halluzination“ ist das geläufige Wort dafür — und das falsche. Denn Halluzinieren setzt ein Bewusstsein voraus, das KI nicht hat.
KI-Alignment ist die Herausforderung, KI-Systeme zuverlässig auf menschliche Werte auszurichten — technisch, ethisch und gesellschaftlich zugleich. Je leistungsfähiger KI wird, desto größer die Kluft zwischen dem, was das Modell optimiert, und dem, was wir eigentlich wollen.
Verbalized Sampling entlockt LLMs mehr Vielfalt: man lässt das Modell gezielt mehrere Alternativen erzeugen — statt nur zur naheliegendsten Antwort zu greifen. Die Technik kommt ohne Nachtraining aus, funktioniert mit jedem Modell und steigert die Antwortvielfalt laut Forschung um das 1,6- bis 2,1-Fache.