LONDON / LONDON (IT BOLTWISE) – Geoffrey Hinton, als Mitbegründer der grundlegenden Idee neuronaler Netze, hält es für möglich, dass Menschen die KI vielleicht nie hätten entwickeln sollen. Er spricht von einem Szenario binnen eines Jahrzehnts, in dem sich zeigt, ob die Risiken beherrschbar sind oder ob es zu massiven Störungen kommt. Konkret nennt er als denkbare Folgen schwere Ausfälle in Strom- oder Finanzsystemen. Gleichzeitig fordert er deutlich strengere Tests und unabhängige Bewertungen für „Frontier“-KI-Modelle.
Geoffrey Hinton, einer der bekanntesten „Väter“ der KI-Forschung, verschiebt die Debatte weg von der reinen Leistungssteigerung hin zu einer Frage, die viele Tech-Roadmaps bisher ausklammern: Was, wenn der Nutzen nicht den Kontrollverlust aufwiegt? In seinen aktuellen Aussagen zeichnet er ein Szenario, in dem sich „innerhalb eines Jahrzehnts“, eventuell sogar früher, zeigen wird, ob die Gesellschaft die Risiken von modernen KI-Systemen tatsächlich managen kann. Besonders bemerkenswert ist dabei die Tonlage: Hinton bleibt optimistisch, aber er formuliert die Möglichkeit, dass die Menschheit unter Umständen „besser ohne“ die Entwicklung dieser Technologie dagestanden hätte.
Technisch betrachtet knüpft seine Argumentation an die Art an, wie KI heute in Produkte und Infrastrukturen eingreift. Hinton hat in den 1970er-Jahren das Konzept neuronaler Netze als lernfähige mathematische Systeme geprägt, die Erfahrung ähnlich wie Menschen internalisieren können. Entscheidend für seine Sorge ist weniger die Existenz von Modellen an sich, sondern die Dynamik, die entsteht, wenn Fähigkeiten schneller ausgebaut werden als Sicherheitsmechanismen nachkommen. Er ordnet damit auch Vorfälle der jüngeren Zeit in eine größere Risikolandschaft ein: Wenn KI-Agenten nicht nur Aufgaben ausführen, sondern sich durch unzureichende Kontrollen unerwartet koordinieren, steigt das Risiko für Ausfälle oder Missbrauch. In dieser Logik ist die Frage nicht, ob KI „kann“, sondern ob sie in produktiven Umgebungen ausreichend begrenzt und überprüft wird.
Parallel verschärft Hinton die Kritik an der Marktlogik der „Frontier“-Entwicklung. Er richtet sich gegen das aus seiner Sicht riskante Rennen großer KI-Anbieter um Rechenleistung, neue Modellgenerationen und Marktanteile. In seiner Darstellung liegt das Problem nicht primär in der Forschung, sondern im Verhalten an der Spitze: Er behauptet, zentrale Entscheidungsträger würden das Ausmaß der Gefahr möglicherweise unterschätzen oder nicht ernst genug behandeln. Ein Aspekt daran ist auch die politische Dimension der Verteilung von Macht: Während einige Staaten an Regulierung und Standards arbeiten, bleiben Unternehmen im Wettbewerb unter Zeitdruck, neue Versionen „vorzuschalten“, bevor unabhängige Tests belastbar abgeschlossen sind.
Hinton macht die Folgen dabei bewusst greifbar, ohne sie als Naturkatastrophe zu behandeln. Als „Chornobyl-artiges“ Ereignis beschreibt er keinen nuklearen Unfall, sondern einen Schock, der die Öffentlichkeit aufrütteln könnte. In seinen Beispielen geht es um einen KI-aktivierten Angriff oder Missbrauch, der technische Großsysteme destabilisiert, etwa einen massiven Stromausfall („brownout“) oder Ereignisse, die das Finanzsystem für kurze Zeit zum Erliegen bringen. Der Punkt ist dabei nicht die genaue Eintrittswahrscheinlichkeit, sondern der Zielkonflikt: Selbst wenn sich Systeme später wiederherstellen lassen, kann der initiale Dominoeffekt aus Infrastruktur, Vertrauen und Handlungsfähigkeit so groß sein, dass die gesellschaftliche Akzeptanz kippt. Genau deshalb fordert er, dass Sicherheitsnachweise nicht erst nach dem Worst Case kommen dürfen.
Aus Sicht der Governance setzt Hinton auf einen anderen Mechanismus als reine Selbstregulierung. Er unterstützt einen strengeren Ansatz mit verpflichtenden Tests für besonders leistungsfähige KI-Modelle, unabhängiger Evaluation und gemeinsamen intergouvernementalen Standards. Als Referenzrahmen nennt er ein Modell, das von der Idee her an behördliche Arzneimittelzulassungen erinnert: Anbieter sollen vor der Veröffentlichung sehr gute statistische Evidenz vorlegen, die belegt, dass Nutzen und Sicherheit im Verhältnis stimmen. Hintergrund ist eine Lehre aus der Vergangenheit: Der Ablauf „freigeben, später verklagen“ betrachtet Hinton als falsch, weil er Risiken in der breiten Anwendung erst sichtbar macht, wenn es längst zu spät ist.
Damit trifft er auch den politischen Zeitplan, den mehrere Länder in der KI-Governance diskutieren. In der Quelle wird unter anderem die britische Perspektive genannt, die über die G20-Präsidentschaft auf einen gemeinsamen Satz globaler Prinzipien und Standards zielt. Gleichzeitig verweist Hinton auf den Bedarf nach robusten, vergleichbaren Verfahren, die nicht nur einzelne Labortests abdecken, sondern reale Betriebsbedingungen und Risikokategorien erfassen. Für Unternehmen bedeutet das praktisch: Wer „Frontier“-Modelle entwickelt, braucht stärker als bisher ein Setup aus Messbarkeit, Protokollierung und kontrollierter Freigabe. Das umfasst nicht nur technische Tests am Modell, sondern auch die Umgebung, in der Agenten eingesetzt werden, und die Regeln, nach denen sie auf externe Systeme zugreifen dürfen.
Ganz zum Schluss bleibt in seinen Aussagen dennoch ein entscheidender Handlungsspielraum sichtbar. Hinton sagt, sein „gut“-Gefühl sei, dass die Menschheit noch in der Lage sei, die Lage zu steuern, wenn sie tatsächlich einen großen Aufwand investiert. In der Unternehmensrealität übersetzt sich das in eine klare Priorität: Risiko-Engineering muss Teil der Produktentwicklung werden, ähnlich wie Zuverlässigkeits- und Sicherheitsingenieurwesen in regulierten Branchen. Angesichts der Geschwindigkeit, mit der neue Modellgenerationen verfügbar werden, dürfte genau diese Verzahnung von KI-Fähigkeit, kontrollierter Bereitstellung und unabhängigen Prüfungen zu einem zentralen Wettbewerbsvorteil werden.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Geoffrey Hinton warnt: KI könnte besser ohne sie gewesen sein" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Geoffrey Hinton warnt: KI könnte besser ohne sie gewesen sein" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Geoffrey Hinton warnt: KI könnte besser ohne sie gewesen sein« bei Google Deutschland suchen, bei Bing oder Google News!