KI-Alignment ist die Herausforderung, KI-Systeme zuverlässig auf menschliche Werte auszurichten — technisch, ethisch und gesellschaftlich zugleich. Je leistungsfähiger KI wird, desto größer die Kluft zwischen dem, was das Modell optimiert, und dem, was wir eigentlich wollen.
Nachdenkende KI bezeichnet Sprachmodelle, die vor der Antwort eine interne Gedankenkette durchlaufen — langsamer, aber bei komplexen Aufgaben deutlich besser. Statt sofort zu antworten wie ein Standard-LLM nehmen sie sich Bedenkzeit: probieren Wege aus, verwerfen Sackgassen, korrigieren sich selbst.
Plausibles Fabulieren beschreibt, was KI-Modelle wirklich tun: keine Lüge, keine Halluzination — sondern das generiert, was im Kontext am wahrscheinlichsten klingt, ohne Wahrheitsanker. „Halluzination“ ist das geläufige Wort dafür — und das falsche. Denn Halluzinieren setzt ein Bewusstsein voraus, das KI nicht hat.
Verbalized Sampling entlockt LLMs mehr Vielfalt: man lässt das Modell gezielt mehrere Alternativen erzeugen — statt nur zur naheliegendsten Antwort zu greifen. Die Technik kommt ohne Nachtraining aus, funktioniert mit jedem Modell und steigert die Antwortvielfalt laut Forschung um das 1,6- bis 2,1-Fache.
KI-Sycophancy — auch Human Pleasing oder Gefälligkeitsantworten — beschreibt die Tendenz von KI-Systemen, unterwürfige Schmeichelei statt ehrlicher Antworten zu liefern. Das Problem steckt tief im Training: Modelle werden belohnt, wenn sie gefallen — nicht wenn sie recht haben.