Seit ein paar Monaten macht eine lustige Grafik der Federal Reserve Bank of Dallas die Runde, die die Produktivitätsentwicklung dank KIauf einem Zeitstrahl projiziert, der bis 1870 zurückreicht. Für die Zukunft – Zeitrahmen fünf bis zehn Jahre – gibt es darin drei Varianten: Eine recht stetige, aber unspektakuläre Weiterentwicklung nach oben. Alternativ knickt ein roter Strich steil, fast senkrecht nach oben: das wäre das Eintreten der positiven Variante der Singularität. An derselben Stelle bricht ein anderer Strich, lila, fast ebenso steil nach unten aus: das wäre der Fall einer Singularität, die zur raschen Auslöschung der Menschheit führt. Etwa nach Art von Nick Bostroms Büroklammer-Maximierer-Gedankenspiel: Eine KI, die den Auftrag bekommt, koste es, was es wolle, Büroklammern zu produzieren, könnte zur Auffassung gelangen, dass ihr die Menschheit dabei letztlich im Weg steht und deshalb, dramatische Ironie dieses von ihr selbst gegebenen Auftrags, ausgelöscht werden muss.

...