MÜNCHEN (IT BOLTWISE) – In einem kürzlich veröffentlichten Strategiepapier warnen Eric Schmidt, ehemaliger CEO von Google, Alexandr Wang, CEO von Scale AI, und Dan Hendrycks, Direktor des Center for AI Safety, vor einem “Manhattan-Projekt” zur Entwicklung von Künstlicher Allgemeiner Intelligenz (AGI) in den USA.
Die Autoren des Papiers, das den Titel “Superintelligence Strategy” trägt, argumentieren, dass ein aggressives Streben der USA nach der exklusiven Kontrolle über superintelligente KI-Systeme zu heftigen Gegenreaktionen aus China führen könnte. Solche Reaktionen könnten in Form von Cyberangriffen erfolgen und die internationalen Beziehungen destabilisieren.
Schmidt und seine Mitautoren betonen, dass ein “Manhattan-Projekt” für AGI davon ausgeht, dass Rivalen eine dauerhafte Ungleichheit oder sogar eine globale Katastrophe hinnehmen würden, anstatt Maßnahmen zu ergreifen, um dies zu verhindern. Ein solches Streben nach einer Superwaffe und globaler Kontrolle birgt das Risiko feindlicher Gegenmaßnahmen und eskalierender Spannungen, was die Stabilität untergraben könnte, die die Strategie eigentlich sichern soll.
Das Papier wird von drei einflussreichen Persönlichkeiten der amerikanischen KI-Industrie verfasst und erscheint nur wenige Monate, nachdem eine US-Kongresskommission eine “Manhattan-Projekt-ähnliche” Initiative zur Finanzierung der AGI-Entwicklung vorgeschlagen hat. Diese Initiative soll nach dem Vorbild des amerikanischen Atombombenprogramms in den 1940er Jahren gestaltet werden. Der US-Energieminister Chris Wright erklärte kürzlich, dass die USA am Anfang eines neuen “Manhattan-Projekts” für KI stehen, während er vor einem Supercomputer-Standort neben dem OpenAI-Mitbegründer Greg Brockman sprach.
Die “Superintelligence Strategy” stellt die Idee in Frage, die von mehreren amerikanischen Politik- und Wirtschaftsführern in den letzten Monaten vertreten wurde, dass ein staatlich unterstütztes Programm zur Verfolgung von AGI der beste Weg sei, um mit China zu konkurrieren.
Schmidt, Wang und Hendrycks sehen die USA in einer Art AGI-Pattsituation, die der gegenseitig gesicherten Zerstörung ähnelt. In ähnlicher Weise, wie globale Mächte keine Monopole über Atomwaffen anstreben, die einen Präventivschlag eines Gegners auslösen könnten, argumentieren Schmidt und seine Mitautoren, dass die USA vorsichtig sein sollten, wenn es darum geht, extrem mächtige KI-Systeme zu dominieren.
Obwohl der Vergleich von KI-Systemen mit Atomwaffen extrem klingen mag, betrachten Weltführer KI bereits als einen entscheidenden militärischen Vorteil. Das Pentagon gibt an, dass KI bereits hilft, die militärische Entscheidungsfindung zu beschleunigen.
Schmidt und seine Mitautoren führen ein Konzept ein, das sie “Mutual Assured AI Malfunction” (MAIM) nennen, bei dem Regierungen proaktiv bedrohliche KI-Projekte deaktivieren könnten, anstatt darauf zu warten, dass Gegner AGI bewaffnen.
Sie schlagen vor, dass die USA ihren Fokus von “dem Rennen zur Superintelligenz gewinnen” auf die Entwicklung von Methoden verlagern, die andere Länder davon abhalten, superintelligente KI zu schaffen. Die Mitautoren argumentieren, dass die Regierung ihr Arsenal an Cyberangriffen erweitern sollte, um bedrohliche KI-Projekte zu deaktivieren, die von anderen Nationen kontrolliert werden, und den Zugang von Gegnern zu fortschrittlichen KI-Chips und Open-Source-Modellen einschränken sollte.
Die Mitautoren identifizieren eine Dichotomie, die sich in der KI-Politikwelt abspielt. Es gibt die “Doomer”, die glauben, dass katastrophale Ergebnisse aus der KI-Entwicklung unvermeidlich sind und dafür plädieren, dass Länder den KI-Fortschritt verlangsamen. Auf der anderen Seite gibt es die “Strauße”, die glauben, dass Nationen die KI-Entwicklung beschleunigen sollten und im Wesentlichen hoffen, dass alles gut ausgeht.
Das Papier schlägt einen dritten Weg vor: einen gemessenen Ansatz zur Entwicklung von AGI, der defensive Strategien priorisiert.
Diese Strategie ist besonders bemerkenswert, da sie von Schmidt kommt, der zuvor lautstark die Notwendigkeit betont hat, dass die USA aggressiv mit China bei der Entwicklung fortschrittlicher KI-Systeme konkurrieren müssen. Noch vor wenigen Monaten veröffentlichte Schmidt einen Meinungsartikel, in dem er erklärte, dass DeepSeek einen Wendepunkt im KI-Rennen Amerikas mit China markiere.
Die Trump-Administration scheint entschlossen, die KI-Entwicklung in Amerika voranzutreiben. Wie die Mitautoren jedoch anmerken, existieren die Entscheidungen Amerikas in Bezug auf AGI nicht im luftleeren Raum.
Während die Welt zusieht, wie Amerika die Grenzen der KI auslotet, schlagen Schmidt und seine Mitautoren vor, dass es klüger sein könnte, einen defensiven Ansatz zu verfolgen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Eric Schmidt warnt vor einem “Manhattan-Projekt” für AGI" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Eric Schmidt warnt vor einem “Manhattan-Projekt” für AGI" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Eric Schmidt warnt vor einem “Manhattan-Projekt” für AGI« bei Google Deutschland suchen, bei Bing oder Google News!