OpenAI-Mitgründer Andrej Karpathy: KI-Modelle noch nicht bereit für AGI

SAN FRANCISCO / LONDON (IT BOLTWISE) – Andrej Karpathy, Mitgründer von OpenAI, hat mit seiner Einschätzung zur Entwicklung von künstlicher allgemeiner Intelligenz (AGI) für Aufsehen gesorgt. In einem Interview äußerte er Zweifel an der aktuellen Leistungsfähigkeit der KI-Modelle und warnte vor überzogenen Erwartungen.

Andrej Karpathy, einer der einflussreichsten Köpfe der modernen Künstlichen Intelligenz und Gründungsmitglied von OpenAI, hat mit seiner nüchternen Einschätzung der Fortschritte in Richtung künstlicher allgemeiner Intelligenz (AGI) die Technologiewelt erschüttert. In einem viel beachteten Interview mit dem Podcaster Dwarkesh Patel äußerte Karpathy, dass das Rennen um die Entwicklung von AGI deutlich langsamer voranschreitet als der Hype vermuten lässt.

Obwohl in den letzten drei Jahren rasante Fortschritte bei großen Sprachmodellen (LLMs) erzielt wurden, ist Karpathy der Ansicht, dass AGI noch mindestens ein Jahrzehnt entfernt ist. Er warnte davor, dass viele Unternehmen die agentischen Fähigkeiten der KI übertreiben, was dem Feld schaden könnte. „Insgesamt sind die Modelle noch nicht so weit“, sagte Karpathy im Podcast. „Ich habe das Gefühl, dass die Branche einen zu großen Sprung macht und versucht, so zu tun, als wäre das alles erstaunlich, obwohl es das nicht ist. Es ist schlampig.“

Das Interview löste sofortige Reaktionen in der Tech-Community aus, wo die Erwartungen an AGI parallel zu Kapitalinvestitionen und Wettbewerb gestiegen sind. „Wenn dieses Karpathy-Interview die KI-Blase nicht platzen lässt, wird es nichts tun“, schrieb Prithvir Jhaveri, CEO des Prognosemarkt-Aggregators TradeFox, auf X. John Coogan, Gastgeber des Tech-Podcasts TBPN, bemerkte, dass Karpathys Interview nur wenige Wochen nach der Aussage des KI-Pioniers Richard Sutton kam, der LLMs als „Sackgasse“ bezeichnete.

Karpathy, der zuvor als Senior Director of AI bei Tesla tätig war und OpenAI in seinen frühen Jahren mitgeleitet hat, beschrieb seine KI-Zeitlinie als „fünf- bis zehnmal pessimistischer“ im Vergleich zu vielen öffentlichen Vorhersagen. Doch er wies die Idee zurück, dass seine Prognose, es werde ein Jahrzehnt dauern, um AGI zu erreichen, düster sei. „Zehn Jahre“, schrieb er auf X nach dem Interview, „sollten eigentlich eine sehr optimistische Zeitlinie für AGI sein.“

Für das Silicon Valley ist dies eine langsame Projektion. Sam Altman, Karpathys Mitgründer bei OpenAI und aktueller CEO, prognostiziert, dass künstliche Intelligenz bis 2030 die Intelligenz jedes Menschen in jedem Fachgebiet übertreffen wird. Elon Musk hat vorhergesagt, dass AGI entweder in diesem Jahr oder im nächsten kommen wird. Karpathy argumentierte, dass ein Großteil der Verwirrung von Metriken herrührt, die ein aufgeblähtes Gefühl der Fähigkeit vermitteln. Öffentliche Demos, Benchmark-Wettbewerbe, Chatbot-Gespräche und Code-Generierungstests spiegeln seiner Meinung nach eher enge Optimierungen wider, anstatt die schwierigsten ungelösten Probleme in der KI anzugehen. Dazu gehören langfristige Planung, strukturiertes Denken und letztlich sicheres Systemdesign.

Karpathy reservierte seine schärfste Kritik für KI-„Agenten“, ein Konzept, das in den letzten Monaten in der Branche explodiert ist. Diese Systeme, die auf LLMs aufbauen, werden als autonome digitale Arbeiter angepriesen, die Code schreiben und ausführen, im Internet suchen, Software bedienen und Geschäftstätigkeiten mit minimaler Aufsicht ausführen können. Karpathy sagte, die Idee sei vielversprechend, aber die Umsetzung, zumindest wie sie heute steht, sei weit von zuverlässig entfernt.

„Wir befinden uns in einer Zwischenphase“, sagte Karpathy. „Die Modelle sind erstaunlich. Sie brauchen noch viel Arbeit.“ Viele andere KI-Führer sind weitaus optimistischer. Zum Beispiel hat NVIDIA-CEO Jensen Huang das Jahr 2025 als „das Jahr der KI-Agenten“ bezeichnet. Anthropic-CEO Dario Amodei sagte kürzlich, dass KI-Systeme bis 2026 oder 2027 „besser als fast alle Menschen in fast allen Dingen“ sein werden. Doch die meisten aktuellen KI-Agenten-Systeme produzieren brüchige, unvorhersehbare Ergebnisse und fehlen grundlegende Zuverlässigkeit, warnte Karpathy. Er argumentierte, dass sie nicht über genügend Denkfähigkeit verfügen, begrenzte Wahrnehmungen von Softwareumgebungen haben und Schwierigkeiten haben, Werkzeuge korrekt zu nutzen.

„Wenn das nicht gut gemacht wird“, sagte Karpathy, „könnten wir am Ende mit Bergen von Schlamperei in der Software und einem Anstieg von Schwachstellen [und] Sicherheitsverletzungen enden.“ Dennoch bestand er darauf, dass KI auf einem langen, aber lösbaren Weg bleibt. Die technischen Herausforderungen, die vor uns liegen, sind schwierig, sagte er, aber mit Zeit, Forschung und besseren Sicherheitspraktiken beherrschbar. „Ich habe das Gefühl, dass die Probleme überwindbar sind“, sagte er. „Aber sie sind immer noch schwierig.“

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen Weiß

37,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen/Business Schwarz

35,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI Übersetzer Kopfhörer, Bluetooth 5.4 Kopfhörer Übersetzer mit 164 Sprachen kopfhörer übersetzer echtzeit mit 7 Modi, ENC Rauschunterdrückung AI-Assistent 56H Laufzeit für Business, Reisen und Lernen

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

Neu 2025 KI Übersetzer Kopfhörer, 3-in-1 Echtzeit Sprachübersetzer Ohrhörer mit 164 Sprachen & 7 Modi, Bluetooth 5.4 Kopfhörer Übersetzer mit App, LED Display, 42H Laufzeit für Reisen Roségold

35,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!