kurz erklärt

Technologische Singularität

Gedachter Zeitpunkt, an dem KI den Fortschritt so beschleunigt, dass er unvorhersehbar wird – erkennbar wohl erst, wenn er vorbei ist.

Tim Urban hat 2015 einen Bahnsteig gezeichnet. Auf dem Schild steht Human-Level Intelligence Station, fünf Leute warten. Einer ruft, dass die KI kommt. Der nächste, dass sie schnell kommt. Im letzten Bild rast der Zug ungebremst durch und lässt die Menschen fassungslos zurück.

Der Bahnhof ist der Ort, an dem wir stehen. Für den Zug ist er nur ein Punkt auf seiner Strecke. Wir bleiben bewegungslos zurück.

Stanisław Ulam schrieb 1958 im Nachruf auf John von Neumann von einem Gespräch über den beschleunigten Fortschritt, der auf eine wesentliche Singularität zulaufe, hinter der menschliche Verhältnisse nicht fortbestehen könnten. Ein Zitat ist das nicht. Von Neumann war ein Jahr zuvor gestorben, Ulam gab aus dem Gedächtnis wieder. Vernor Vinge machte 1993 auf einem NASA-Symposium einen Aufsatz daraus und setzte eine Frist: Innerhalb von dreißig Jahren werde man übermenschliche Intelligenz herstellen können.

Diese dreißig Jahre liefen 2023 ab. Vinge starb im März 2024, ohne dass eingetreten wäre, was er beschrieben hatte. Ray Kurzweil hält seit 2005 an 2045 fest. Der Begriff bezeichnet einen Punkt, hinter dem Vorhersage aufhört, und wird trotzdem seit 1958 durchgehend datiert. Brauchbar an ihm ist deshalb nicht die Jahreszahl, sondern das Bild. Wer auf eine Ankunft wartet, übersieht eine Durchfahrt.