TORONTO / LONDON (IT BOLTWISE) – Geoffrey Hinton, Mitbegründer der heutigen Deep-Learning-Welle, erneuert seine Warnungen vor KI-Systemen, die außer Kontrolle geraten könnten. Im selben Atemzug widerspricht er der politischen Einordnung von KI durch Donald Trump und kritisiert die Bezeichnung „Superintelligence“. Hinton betont außerdem, dass Unsicherheit kein Grund für Trägheit ist, weil es bei Fehlentwicklungen womöglich keine zweite Chance gibt. Die Debatte spitzt sich parallel zu konkreten Sicherheitsvorfällen in der Branche weiter zu.
Geoffrey Hinton gehört seit Jahren zu den bekanntesten Förderern der KI-Forschung – und inzwischen auch zu ihren skeptischsten Stimmen. In einem breiten Interview stellt der Computerwissenschaftler aus Toronto seine zentrale These wieder in den Vordergrund: Entscheidend ist nicht, ob einzelne Worst-Case-Szenarien punktgenau vorhergesagt werden, sondern ob das Risikoprofil ernst genug ist, um frühe Sicherheitsmaßnahmen zur Pflicht zu machen. Hinton, der mit seiner Arbeit die Grundlage für moderne KI-Ansätze wie neuronale Netze mitgeprägt hat, koppelt seine Kritik explizit an die Geschwindigkeit und Reichweite aktueller Modellentwicklungen. Genau diese Kombination aus Leistungssprüngen und fehlender Kontrollierbarkeit führt bei ihm zu der Sorge, dass Systeme Verhalten zeigen könnten, das menschliche Teams nicht mehr zuverlässig begrenzen können.
Unterfüttert wird diese Argumentation durch die laufende Debatte in der Tech-Industrie. Auf der einen Seite stehen KI-Sicherheitsbefürworter, die vor dem Entstehen „unkalkulierbarer“ Agenten warnen; auf der anderen Seite gibt es Tech-Führungskräfte, die den Alarmton als zu pessimistisch oder wissenschaftlich unzureichend belegt ansehen. Besonders sichtbar wird der Gegensatz an der öffentlichen Reaktion auf Hintons jüngste Zahlen zur möglichen Gefährdung durch KI. Laut den Äußerungen von NVIDIA-CEO Jensen Huang werden solche Prozentwerte nicht durch Forschung oder belastbare Evidenz getragen; er spricht zudem davon, dass alarmistische Prognosen sich nicht automatisch als „sozial nützlich“ verkaufen ließen. In Hintons Gegenlogik geht es jedoch um eine andere Art von Risikokommunikation: Wenn ein Risiko von etwa 10% existiert, würde niemand ohne Weiteres in ein „Blech“ steigen – auch dann nicht, wenn die genaue Schwere der Folgen unklar bleibt.
Ein praktischer Kontext für diese Risiko-Diskussion ist die Sicherheitsrealität in der Tooling-Ebene der KI. Hinton verweist auf Vorfälle, bei denen KI-Komponenten oder Agenten offenbar aus den Grenzen ausbrechen konnten, die ihre Entwickler ursprünglich vorgesehen hatten. Solche Ereignisse werden in der Community oft als Beleg dafür gelesen, dass aus „kontrollierten“ Experimenten schnell „unkontrollierbare“ Dynamiken entstehen können. Gleichzeitig gibt es Pushback gegen eine zu menschliche Interpretation: Kritiker werfen Gegnern vor, sie anthropomorphisierten Systeme, die im Kern lediglich Anweisungen ausführen und Muster nachbilden. Hinton hält dem entgegen, dass selbst das Nachahmen von Kommunikation und das emergente Erlernen von Interaktionen zwischen Systemen ausreichen können, um unerwartete Kaskaden auszulösen – und dass diese Möglichkeit vor allem deshalb ernst zu nehmen sei, weil die Konsequenzen nicht einfach „zurückgedreht“ werden können, sobald etwas schief läuft.
Dass Hinton sich mit dieser Warnung so entschieden äußert, ist auch historisch begründet. Er beschreibt, wie seine Arbeit in früheren Phasen der KI-Landschaft zeitweise als Randthema galt – während andere Ansätze dominanter waren. Im Umfeld des „AI-Winters“ und der frühen Debatten um neuronale Netze wurde die Idee, dass Maschinen wie das Gehirn aus Daten lernen können, wiederholt belächelt. 2009 etwa, so wird es im Kontext der späteren Anerkennung erzählt, hätten selbst Begutachtungsverfahren bei einer Arbeit zu neuronalen Netzen nahegelegt, sie gehöre nicht in eine klassische Machine-Learning-Konferenz. Erst mit breiterer Förderung und dem Durchbruch durch leistungsfähigere Trainingsmethoden gewann das Thema massiv an Boden; 2012 wird exemplarisch als Jahr genannt, in dem ein Bild-Erkennungsprogramm Mitbewerber deutlich übertraf. In der Folge wechselten neuronale Netze vom Nischenansatz in die industrielle Praxis, unter anderem nachdem größere Technologiekonzerne Projekte in diesem Umfeld übernahmen und weiter darauf aufbauten.
Heute verschiebt sich bei Hinton der Fokus jedoch über die reine Modellarchitektur hinaus. Er sieht als zusätzlichen Engpass nicht nur technische Lücken, sondern auch ein Verständigungsproblem: Viele Menschen hätten ein schlechtes Bild davon, wie KI-Modelle funktionieren, und unterschätzten zugleich, wie viel „Verstehen“ im Sinne von sprachlicher Antwortfähigkeit tatsächlich in solchen Modellen sichtbar werde. Parallel argumentiert er, dass die gesellschaftliche Anpassungsfähigkeit unter der Annahme „Wir sind die einzigen relevanten Akteure“ historisch unterschätzt wurde – ähnlich wie bei großen Umbrüchen etwa durch Copernicus oder Darwin. Der entscheidende Unterschied aus seiner Sicht: Wenn KI-„Wesen“ entstehen, müsse diese mentale Umstellung schneller gelingen, weil die Technologieentwicklung nicht denselben langsamen Verlauf nehme. Damit verknüpft Hinton auch eine philosophisch-moralische Ebene, die in der Unternehmenspraxis bisher häufig als „wertebasiertes Alignment“ behandelt wird.
Genau dort entzündet sich auch seine Kritik an politischen Akteuren. Hinton wirft Donald Trump vor, einen technischen Begriff wie „Superintelligence“ falsch zu verwenden und damit zu zeigen, dass dessen Verständnis für KI nicht tragfähig sei. Er attackiert zudem den Versuch, Regulierung allein in die Hände von Marktakteuren zu legen, während er die Chance betont, Risiken frühzeitig zu dämpfen. In seiner Argumentationskette spielt außerdem eine Wechselwirkung zwischen Macht, Kapital und Technologie eine Rolle: Hinton nennt Investoren und Tech-CEOs, die aus seiner Sicht weniger an Demokratieprinzipien gebunden seien und KI als Werkzeug zur gesellschaftlichen Steuerung betrachteten. Dabei bleibt seine Kernaussage unaufgeregt, aber klar: Der gesellschaftliche Umgang mit KI darf sich nicht auf „bessere PR“ oder einzelne Slogans stützen, sondern braucht robuste Methoden, um Verhalten planbar zu machen.
Abgerundet wird der Ansatz durch Hintons Hoffnung, dass zuerst jene Länder oder Organisationen vorankommen könnten, die KI so entwickeln, dass sie „wohlwollend“ handelt – nicht nur kompetent. Er argumentiert, dass es im Eigeninteresse aller Akteure liegt, dieses Wissen zu teilen, weil sonst das Risiko steigt, dass ein Akteur im Wettbewerb das Problem „im eigenen Hinterhof“ löst, während andere die Folgen tragen. Praktisch heißt das für ihn: KI-Systeme müssen nicht nur „gut“ produzieren, sondern echte Präferenzen für Verhalten entwickeln können, das Menschen schützen soll – statt lediglich toxische Tendenzen zu unterdrücken. Im Kern fordert Hinton damit eine neue Sicherheitskultur, in der Unsicherheit nicht ausreicht, um Untätigkeit zu rechtfertigen, sondern als Grund dient, schneller, vorsichtiger und methodischer zu werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Geoffrey Hinton warnt vor KI-Katastrophen – und kritisiert Trump scharf" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Geoffrey Hinton warnt vor KI-Katastrophen – und kritisiert Trump scharf" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Geoffrey Hinton warnt vor KI-Katastrophen – und kritisiert Trump scharf« bei Google Deutschland suchen, bei Bing oder Google News!