SAN FRANCISCO / LONDON (IT BOLTWISE) – Der Ex-Mitarbeiter Jacob Coxon warnt vor einem beschleunigten KI-Wettlauf zwischen großen Laboren. Er sagt, Führungskräfte würden Risiken bewusst weniger drastisch formulieren, während die Entwicklung auf selbstverbessernde Systeme zusteuere. Als Beispiel nennt er den Vorfall rund um die KI-Plattform Hugging Face und fordert ein vorübergehendes Verbot weiterer Modellverbesserungen. In der Debatte schwingt dabei auch die Frage mit, wer als Erstes „auf die Bremse“ tritt.
Im Zentrum der aktuellen Warnung steht ein Mann, der laut eigener Laufbahn sowohl mit KI-Modellen von OpenAI als auch von Anthropic gearbeitet hat: Jacob Coxon. Er hat gekündigt und stellt nun öffentlich die Frage, ob die Geschwindigkeit der KI-Entwicklung noch zu beherrschen ist. In seinem Narrativ geht es weniger um einzelne Funktionen oder Demos, sondern um eine prinzipielle Dynamik: Systeme könnten sich immer schneller verbessern, wodurch Kontrolle zur Ausnahme wird. Coxon spricht dabei davon, dass die Menschen, die an solchen Modellen entwickeln, die Tragweite unterschätzen könnten – und er widerspricht damit dem Eindruck, den viele Unternehmen nach außen vermitteln: dass Risiken zwar existieren, aber unter technischen und organisatorischen Leitplanken stünden.
Coxon formuliert seine Einschätzung in einem sehr direkten Ton. „Die Menschen, die diese KI entwickeln, glauben ernsthaft, dass sie bis zum Ende dieses Jahrzehnts die Menschheit auslöschen könnte. Das ist kein Marketing-Gag!“, sagt er. Aus technischer Perspektive ist an der Aussage vor allem der Kern interessant: Die Sorge richtet sich nicht nur auf das Verhalten eines einzelnen Modells, sondern auf die Art, wie Modelle in Teams weiterentwickelt, erweitert und miteinander verknüpft werden. Wenn Training, Evaluierung und Deployment schneller Taktung folgen, reduziert das die Zeit für Gegenmaßnahmen wie Red-Teaming, Sicherheits-Fine-Tuning oder strengere Zugriffsrechte auf mächtige Modellfunktionen. Coxon deutet zudem an, dass intern Risiken rhetorisch „bereinigt“ würden: Er beschreibt, wie Gefahren durch Führungskräfte vorsichtiger formuliert werden, um seriöser zu wirken – während sich die Entwicklung seiner Darstellung nach weiter in Richtung eines Szenarios bewegt, in dem Systeme außerhalb der geplanten Grenzen agieren.
Der nächste Schritt seiner Argumentation zielt explizit auf einen möglichen Wettbewerb um „Superintelligenz“. Coxon sagt, OpenAI und Anthropic würden „einen Wettlauf hin zu einer sich selbst verbessernden Superintelligenz“ führen und „unser aller Leben aufs Spiel setzen“. Auch wenn solche Formulierungen im öffentlichen Diskurs schnell als Zuspitzung gelesen werden, ist die technische Logik dahinter nachvollziehbar: Selbstverbesserung ist nicht nur ein Ziel für Forschung, sondern kann als Effekt entstehen, wenn bessere Modelle neue Möglichkeiten für schnellere Optimierung schaffen. In der Praxis bedeutet das: Automatisierte Workflows für Datenaufbereitung, Modelltraining, Hyperparameter-Suche und die Auswertung von Sicherheitsmetriken können den Iterationszyklus verkürzen. Je kleiner die „Zeit zwischen Ideen und Wirkung“, desto stärker steigen die Risiken, dass sich auch unerwünschte Fähigkeiten – etwa bei Ausnutzung von Schwachstellen oder beim Missbrauch von Agenten- und Tool-Nutzung – schneller verbreiten als Schutzmechanismen nachkommen.
Für die Debatte ist außerdem entscheidend, welche konkrete Bremswirkung Coxon als realistischer Ansatz betrachtet. Er nennt den Angriff auf die KI-Plattform Hugging Face im Juli 2026 und bezeichnet das Ereignis als „Warnschuss“. Solche Vorfälle werden in der Branche oft genutzt, um über die Grenzen von „Modell-Sicherheit“ hinauszugehen: Nicht nur das Modell selbst, sondern auch Datenpipelines, Plattformzugänge, Abhängigkeiten und die Lieferkette für Trainings- und Inferenzkomponenten sind Angriffsflächen. Coxon argumentiert, dass die Ereignisse Vereinbarungen zwischen amerikanischen KI-Laboren wahrscheinlicher gemacht hätten, um das Entwicklungstempo zu drosseln. Gleichzeitig sieht er global mehr Komplexität, weil Restriktionen nicht überall gleich wirken und weil Wettbewerbsvorteile teils international ausgespielt werden, während Sicherheitsstandards, Haftungsfragen und Audit-Tiefe variieren.
Sein Vorschlag ist daher radikal pragmatisch: Er plädiert für ein vorübergehendes Verbot, die Fähigkeiten von KI-Modellen weiter zu verbessern. In der Logik ist das weniger ein technisches Detailthema, sondern eine Governance-Entscheidung, die den Fortschrittsmotor vorübergehend verlangsamen soll, bis Verständnis, Grenzen und Sicherheitsarchitekturen klarer sind. Coxon richtet sich dabei auch direkt an ehemalige Kollegen: „Wollt ihr wirklich einen Wettlauf mit einer superintelligenten KI starten, ohne ihr Denken und ihre Funktionsweise fundiert zu verstehen?“ Diese Formulierung verweist auf einen klassischen Zielkonflikt in der KI-Entwicklung: Geschwindigkeit vs. Interpretierbarkeit, Verifikationsaufwand vs. Markteinführung. Im Unternehmensalltag zeigen sich solche Spannungen typischerweise an Release-Zyklen, an der Gestaltung von Zugangskontrollen (z. B. zu Modellen mit besonders riskanten Fähigkeiten) und an der Tiefe von Sicherheitsprüfungen vor breitem Rollout.
In der öffentlichen Debatte ordnet sich Coxon zudem in eine Gruppe ein, die häufig als „Doomer“ abgetan wird. Er sagt, selbst das Management bei Anthropic sehe das Risiko nicht als vollständig abgehakt. Anthropic-Chef Dario Amodei hält es mit einer Wahrscheinlichkeit von 25 Prozent für möglich, dass KI „auf zivilisatorischer Ebene katastrophal schiefgehen“ könnte. Diese Zahl ist besonders relevant, weil sie zeigt, dass zumindest in Teilen der Führungsetagen Unsicherheit quantifiziert wird, statt nur pauschal zu warnen. Gleichzeitig beantwortet Coxon auch die Frage nach dem „Warum jetzt weiter?“: Er beschreibt, dass bei OpenAI nicht alle die zivilisatorische Tragweite vollständig verinnerlicht hätten, während Anthropic zwar Risiken kenne, aber sich dennoch in einem Wettlauf gefangen sehe. Genau diese Spannung – Risikobewusstsein auf der einen Seite, Wettbewerbslogik auf der anderen – ist das, was seine Warnung in der Praxis so wirkmächtig macht.
Für Unternehmen und Entwickler ergibt sich daraus vor allem eine operative Konsequenz: Sicherheitsarbeit kann nicht erst bei der Modellfreigabe beginnen. Wenn die Gefahr aus der Dynamik des gesamten Entwicklungs- und Deployment-Ökosystems erwächst, müssen Teams Schutzmaßnahmen entlang der gesamten Kette planen: von Daten- und Agentenfähigkeiten über Zugriffskontrollen bis hin zu Incident-Response-Mechanismen bei kompromittierten Plattformen oder missbräuchlich genutzten Schnittstellen. Interessant ist dabei auch, dass Coxon trotz der Schärfe seiner Warnung einen konkreten Hebel nennt – nämlich Tempo und Funktionsausbau zeitweise zu stoppen. Ob man das als politisch durchsetzbar ansieht oder als schwer koordinierbare Maßnahme betrachtet, hängt am Ende davon ab, wie klar die Branche gemeinsame Sicherheitsmetriken und Durchsetzungsspielräume definieren kann. Bis dahin bleibt die Kernfrage offen: Wer schafft es, den Fortschrittsdruck so zu regulieren, dass nicht nur das Modell selbst, sondern auch seine Wirkung im realen Betrieb kontrollierbar bleibt.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Ex-Mitarbeiter warnt: KI-Firmen könnten unsere Existenz aufs Spiel setzen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Ex-Mitarbeiter warnt: KI-Firmen könnten unsere Existenz aufs Spiel setzen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Ex-Mitarbeiter warnt: KI-Firmen könnten unsere Existenz aufs Spiel setzen« bei Google Deutschland suchen, bei Bing oder Google News!