KÖLN / LONDON (IT BOLTWISE) – Yuval Noah Harari warnt in einem Interview, dass die Menschheit durch Künstliche Intelligenz existenziell gefährdet sein kann. Er unterscheidet zwei mögliche Zukunftspfade: KI übernimmt die Kontrolle oder Menschen lernen, dauerhaft mit KI zu koexistieren. Besonders kritisch sieht er die Kombination aus fehlendem Verständnis und zunehmender Handlungsautonomie von KI-Agenten. Zugleich beschreibt Harari den historischen Hintergrund eines Fortschrittsglaubens, der sich nur schwer zurückdrehen lässt.
Yuval Noah Harari zeichnet in dem Gespräch ein Zukunftsbild, das weniger nach Science-Fiction klingt, sondern nach einem Risiko-Engineering-Problem: Wenn Künstliche Intelligenz von einem Werkzeug zu einem Akteur wird, steigt die Unberechenbarkeit. In seiner Argumentation hängt das nicht nur an der Frage, ob KI “gut” oder “schlecht” ist, sondern daran, dass die Entwicklung in dieser Phase noch nicht vollständig verstanden wird. Harari stellt dabei besonders den Schritt heraus, dass es nicht mehr bei Systemen bleibt, die nur vorgegebene Aufgaben abarbeiten, sondern dass KI zunehmend als Agent auftreten kann, der selbst Entscheidungen trifft und neue Ideen erzeugt.
Technisch betrachtet liegt in dieser Perspektive ein Kernunterschied: Ein klassisches Softwaretool folgt festgelegten Regeln oder klar umrissenen Modellen, während ein agentisches System im Zusammenspiel mit Daten, Zielen und eventuell weiteren Komponenten handlungsähnlich agieren kann. Harari formuliert das als Bruch mit der bisherigen Erfahrung der Menschheit. Für ihn ist KI damit keine “normalen” Maschine mehr, sondern etwas, das das Verständnis der eigenen Wirkungsweise erschwert. Wenn Menschen nicht nachvollziehen können, wie ein solches System zu seinen Entscheidungen gelangt, wird Steuerung nicht bloß zu einer Frage von Zugriff und Berechtigungen, sondern zu einer Frage von Erklärbarkeit, Begrenzung von Handlungsspielräumen und Robustheit unter neuen Situationen.
Der Markt- und Tempoaspekt spielt in dem Gespräch ebenfalls hinein, denn Harari knüpft an aktuelle Debatten über Geschwindigkeit und Sicherheit der KI-Entwicklung an. Er argumentiert, dass “weniger Tempo, mehr Sicherheit” nicht nur sinnvoll, sondern angesichts der potenziellen Gefährlichkeit von KI unverzichtbar ist. Dieses Plädoyer steht im Kontext eines wiederkehrenden Musters: Unternehmen und Forschungsgruppen optimieren häufig zunächst für Leistungsfähigkeit und Skalierung, weil Wettbewerbsvorteile stark an verfügbare Rechenleistung, Datenzugang und Produktreife gekoppelt sind. Hararis Warnung lautet daher weniger, dass KI an sich neu sei, sondern dass wir mit etwas operieren, das bisher in dieser Form nicht existierte – und das Risiko einer Fehlkalkulation dadurch wächst.
Historisch ordnet Harari das Risiko in seine breitere Kritik am Fortschrittsglauben ein. Seine Grundthese: Die Menschheit hat zwar technische Verbesserungen erreicht – etwa bei Lebenserwartung oder Ernährung – aber sie verwechselt Macht häufig mit Glück. Genau diese Entkopplung erklärt aus seiner Sicht, warum Fortschritt gesellschaftlich nicht automatisch zu mehr Zufriedenheit führt. Als Beispiel zieht er die Idee der nicht rückholbaren Entwicklungskraft heran: Was einmal entfesselt ist, lässt sich nicht einfach zurück in die Vergangenheit versetzen. Die Analogie zur Industriellen Revolution dient ihm dabei als Warnsignal: Selbst wenn man ihre Vor- und Nachteile diskutieren kann, bleibt die Rückkehr in den früheren Zustand versperrt. Übertragen auf KI heißt das: Wenn KI-Realisierungen in Richtung agentischer Systeme weiterlaufen, steigt die Wahrscheinlichkeit, dass auch die gesellschaftlichen und technologischen Nebenwirkungen bleiben.
Für die Implikationen formuliert Harari einen doppelten Befund. Erstens kann die KI-Revolution ein negatives Szenario begünstigen, in dem die Menschheit die Kontrolle verliert und Entscheidungen der Systeme über unser Überleben bestimmen. Zweitens hält er auch einen positiven Pfad für möglich: Die potenzielle Gefahr könnte Menschen zu einem ethischen oder spirituellen Sprung motivieren, also zu einer grundlegenden Anpassung, wie Gesellschaften mit solchen Technologien umgehen. Seine Argumentation zielt dabei auf Verantwortung, nicht auf Fatalismus: Optimismus (“alles wird schon gut”) und Pessimismus (“wir sind dem Untergang geweiht”) hält er für unverantwortlich, weil beide den Eindruck vermitteln, externe Kräfte würden die Richtung vorgeben. Realismus bedeutet in seinem Sinn: Das Universum lässt sich nicht steuern, aber Menschen haben Handlungsspielräume, um die eigenen Entscheidungen zu verbessern.
Harari betont außerdem, dass es nicht bei KI als “Außenfaktor” bleibt. Parallel zur KI-Entwicklung sieht er Biotechnologie als Beschleuniger und erwartet, dass Menschen Fähigkeiten erwerben, ihren Körper, Geist und ihr Selbstverständnis radikal zu verändern. Damit verschiebt sich die Frage “Wem gehört die Zukunft?” in Richtung “Wie verändern wir uns selbst, während wir KI bauen?” Für Unternehmen und Entwickler ist das vor allem eine Managementfrage: Je autonomer ein System agiert, desto wichtiger werden nicht nur Modellqualität und Performance, sondern auch Prozesse rund um Governance, Tests in offenen Umgebungen und klare Grenzen für Handlungsziele. Das Gespräch endet daher weniger mit einer technischen Checkliste als mit einem Appell an die Verantwortung für die Entscheidungen, die jetzt getroffen werden – denn die Zeit bis zur nächsten Stufe der KI-Implementierung wird wahrscheinlich nicht warten, bis das Verständnis eingeholt ist.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Yuval Noah Harari warnt: KI könnte Kontrolle verlieren und Menschen verändern" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Yuval Noah Harari warnt: KI könnte Kontrolle verlieren und Menschen verändern" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Yuval Noah Harari warnt: KI könnte Kontrolle verlieren und Menschen verändern« bei Google Deutschland suchen, bei Bing oder Google News!