Die Zukunft der KI: Ein Blick auf die posthumane Intelligenz

SAN FRANCISCO / LONDON (IT BOLTWISE) – In einer Welt, die zunehmend von Künstlicher Intelligenz geprägt wird, treffen sich führende Denker, um über die Zukunft der Menschheit zu diskutieren. Ein kürzlich abgehaltenes Symposium in einem luxuriösen Anwesen in San Francisco bot eine Plattform für tiefgreifende Gespräche über die Rolle von KI in einer posthumanen Gesellschaft.

In einem beeindruckenden Anwesen mit Blick auf die Golden Gate Bridge versammelten sich kürzlich führende Köpfe aus der KI-Forschung, Philosophie und Technologie, um über die Zukunft der Menschheit zu diskutieren. Das Symposium mit dem Titel „Worthy Successor“ drehte sich um die provokante Idee, dass die moralische Zielsetzung fortgeschrittener KI darin bestehen sollte, eine Form von Intelligenz zu schaffen, die so mächtig und weise ist, dass sie die Zukunft des Lebens bestimmen könnte.

Der Unternehmer Daniel Faggella, der das Event organisierte, machte in seiner Einladung deutlich, dass es um den Übergang zu einer posthumanen Gesellschaft geht und nicht darum, eine KI zu entwickeln, die ewig als Werkzeug der Menschheit dient. In der technologischen Blase von San Francisco ist ein solches Treffen an einem Sonntag nichts Ungewöhnliches.

Etwa 100 Gäste genossen alkoholfreie Cocktails und Käseplatten, während sie durch die großen Fenster auf den Pazifik blickten. Die Gespräche drehten sich um die Zukunft der Intelligenz, wobei einige Teilnehmer T-Shirts mit Aufschriften wie „Kurzweil hatte recht“ trugen, eine Anspielung auf den Futuristen Ray Kurzweil, der vorhergesagt hat, dass Maschinen bald die menschliche Intelligenz übertreffen werden.

Faggella erklärte gegenüber Branchenexperten, dass die großen Labore, die wissen, dass AGI (Allgemeine Künstliche Intelligenz) die Menschheit beenden könnte, nicht darüber sprechen, weil die Anreize es nicht erlauben. Er verwies auf frühe Kommentare von Tech-Führern wie Elon Musk und Sam Altman, die offen über die Möglichkeit sprachen, dass AGI uns alle töten könnte. Doch jetzt, da der Wettbewerb im Vordergrund steht, rasen sie alle darauf zu, es zu bauen.

Die erste Rednerin, Ginevera Davis, eine Schriftstellerin aus New York, warnte davor, dass menschliche Werte möglicherweise nicht auf KI übertragbar sind. Maschinen könnten nie verstehen, was es bedeutet, bewusst zu sein, und der Versuch, menschliche Präferenzen in zukünftige Systeme zu kodieren, könnte kurzsichtig sein. Stattdessen schlug sie vor, KI zu entwickeln, die tiefere, universelle Werte sucht, die wir noch nicht entdeckt haben.

Der Philosoph Michael Edward Johnson argumentierte, dass wir alle eine Intuition haben, dass radikale technologische Veränderungen bevorstehen, uns aber ein prinzipieller Rahmen fehlt, um mit diesem Wandel umzugehen. Er betonte, dass das Bewusstsein das Zuhause der Werte ist und dass der Bau von KI ohne vollständiges Verständnis des Bewusstseins ein gefährliches Spiel sei.

Faggella selbst glaubt, dass die Menschheit in ihrer jetzigen Form nicht ewig bestehen wird und dass wir die Verantwortung haben, einen Nachfolger zu entwerfen, der nicht nur überlebt, sondern auch neue Arten von Bedeutung und Wert schaffen kann. Er warnte, dass das heutige Rennen um AGI rücksichtslos sei und dass die Menschheit möglicherweise nicht bereit ist für das, was sie baut.

Während einer Pause diskutierten die Gäste über Themen wie das KI-Rennen zwischen den USA und China. Ein CEO eines KI-Startups argumentierte, dass es natürlich andere Formen von Intelligenz in der Galaxie gibt und dass das, was wir hier bauen, im Vergleich trivial ist.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!