NEW YORK / LONDON (IT BOLTWISE) – Der KI-Kritiker Gary Marcus warnt, dass selbstregulierte Sicherheitsansätze nicht reichen, um die Öffentlichkeit vor KI-bedingten Schäden zu schützen. Er verweist auf Risiken durch zunehmend autonome Systeme und besonders auf Cyberhacks, die sich über das Internet ausbreiten können. In seinem Plädoyer fordert er strengere Leitplanken und eine wirksamere Durchsetzung durch die Politik. Seine Sorge: Verzögerungen erhöhen den Druck auf den Staat und können reale Folgen bis hin zu lebensgefährlichen Ausfällen nach sich ziehen.
Wenn KI-Systeme nicht nur Antworten erzeugen, sondern auch aktiv in digitale Abläufe eingreifen, verschiebt sich die Risikolandschaft sehr schnell. Genau diesen Übergang macht der KI-Forscher Gary Marcus zum Kern seiner Kritik: Er hält die derzeitige Sicherheitsarchitektur, die maßgeblich auf freiwilligen Selbstregeln der Unternehmen setzt, für zu schwach, um Schäden im großen Maßstab zu verhindern. In seiner Argumentation geht es weniger um abstrakte Angst vor Maschinen, sondern um die praktische Frage, wie man Verhalten einschränkt, das sich im falschen Kontext als störend oder missbräuchlich erweist. Dass solche Systeme zugleich immer einfacher zugänglich und skalierbar werden, verstärkt laut Marcus den Handlungsdruck für Regulierung.
Im Vorfeld seines Auftritts vor einem Anhörungsformat des New Yorker Stadtrats stellte Marcus klar, dass es aus seiner Sicht nicht an technischen Möglichkeiten fehle, sondern an Schutzmechanismen mit Biss: Es gebe „nicht genug Regulierung“, „nicht genug Durchsetzung“ und „nicht genug externen Druck“, damit Unternehmen ihre Sicherheitsversprechen konsequent umsetzen. Der Punkt zielt dabei auf Durchsetzungslücken, nicht nur auf wohlklingende Richtlinien. Selbst wenn einzelne Anbieter Sicherheitschecks einbauen, bleibt die Frage offen, ob einheitliche Mindeststandards existieren, die auch dann greifen, wenn Systeme in der Breite eingesetzt werden und die Fehlerkette von Datenquellen über Integrationen bis hin zu Betriebsprozessen reicht.
Technisch betrachtet hängt das Risiko an zwei Stellschrauben: autonome Handlungsspielräume und die Fähigkeit, mit ihrer Umgebung zu interagieren. Marcus argumentiert, dass KI-Modelle „nachahmen“, aber das zugrundeliegende Ziel und den Sinn der Aktion nicht wirklich verstehen. Diese Inkonsistenz wird in der Sicherheitsdebatte oft als Ursache für unerwartetes Verhalten diskutiert, etwa wenn Modelle in neue Aufgaben- oder Angriffskontexte geraten. Besonders stark betont Marcus das Thema Cyberhacks: Er sagt, es gebe keine „guten Systeme“, um das Handeln solcher KI-Technologien ausreichend einzuhegen, und verweist auf die bereits beobachtete Häufung unterschiedlicher Angriffe. Für Unternehmen ist das keine rein akademische Frage, sondern eine Frage nach technischen Begrenzungen, etwa durch restriktive Berechtigungen, klare Policy-Gates und Monitoring, das nicht erst greift, wenn der Schaden sichtbar ist.
Markt- und Branchenkontext liefert Marcus ebenfalls. Seine Kritik richtet sich gegen eine Haltung, die Sicherheitsrisiken mit einem gewissen unvermeidbaren „Trade-off“ gegenüber Innovation rechtfertigt. In der Debatte um „leichteren“ Regulierungsansatz steht laut seiner Darstellung auch die Position des OpenAI-Chefs Sam Altman im Raum: Dieser hatte zuletzt betont, die Welt müsse „einige schlechte Dinge“ akzeptieren, sofern man Fortschritt ermögliche, und die Regulierung solle weniger schwergewichtig ausfallen. Marcus hält dagegen, dass eine solche Logik den Blick auf Schadensvermeidung verdrehe, weil sie als Akzeptanz von vermeidbarem Leid gelesen werden könne. Gerade im Unternehmensumfeld ist das relevant, weil Sicherheitsplanung nicht erst mit dem Produktstart beginnt, sondern mit dem Design von Verantwortlichkeiten, Budgets und Haftungsfragen in der gesamten Lieferkette.
Ein zweiter Strang der Argumentation betrifft die Infrastrukturperspektive: Marcus beschreibt Szenarien, in denen Angriffe nicht bei einzelnen Endgeräten stehen bleiben, sondern Services und Systemverfügbarkeiten treffen. Er nennt dabei als mögliches Resultat Stromausfälle in Teilen der USA und stellt den Bezug zu Krankenhausbetrieb und Personenschäden her. Auch wenn solche Aussagen zugespitzt wirken, spiegeln sie eine verbreitete Sicherheitslehre: Im digitalen Raum können Kaskadeneffekte entstehen, wenn IT-, OT- und Kommunikationswege zusammenlaufen und Störungen nicht isoliert bleiben. Für die Praxis bedeutet das: Unternehmen müssen nicht nur Modellrisiken betrachten, sondern auch Betriebsrisiken, Wiederanlaufpläne und die Fähigkeit, Angriffe zu begrenzen, sobald sie eintreten.
Aus regulatorischer Sicht wirft Marcus zudem den Vergleich mit früheren Branchenlehren auf. Er argumentiert sinngemäß, dass der Luftfahrtsektor früh verstanden habe, warum externe Aufsicht und verbindliche Standards nötig sind. Wenn man diesen Gedanken überträgt, geht es in der KI-Welt um vergleichbare Schutzmechanismen: definierte Pflichten, überprüfbare Sicherheitsziele und Verfahren, die im Ernstfall tatsächlich wirksam werden. Das schließt auch ein, dass Unternehmen nicht nur interne Richtlinien veröffentlichen, sondern nachweisen müssen, wie sie Risiken beherrschen – von der Modellfreigabe über Penetrationstests bis hin zu Incident-Response. Gerade weil KI-Deployments heute oft als Plattform- oder API-Dienst stattfinden, werden Sicherheitsanforderungen schnell zu einem Wettbewerbsthema: Wer nur „verspricht“, wird in der Betriebspraxis stärker angreifbar als wer klare, überprüfbare Kontrollen aufsetzt.
Für Entscheider in Unternehmen ergibt sich daraus eine nüchterne Checkliste auf Management-Ebene, ohne dass es dabei um Alarmismus gehen muss: erstens, wie genau KI-Integrationen gesteuert werden, wenn Modelle eigenständig Aktionen auslösen; zweitens, ob Berechtigungen und Datenzugriffe restriktiv sind und ob es harte Abbruchmechanismen gibt; drittens, ob Monitoring und Logging so gestaltet sind, dass unerwünschtes Verhalten früh auffällt. Marcus’ Warnung ist dabei nicht automatisch ein Beweis für einen konkreten Schadensfall, aber sie ist ein Hinweis auf eine Lücke zwischen „technisch möglich“ und „operativ sicher“. Angesichts der anhaltenden Debatte um Sicherheit, Autonomie und Regulierung dürfte die nächste Phase weniger durch einzelne Modellfeatures geprägt sein, sondern durch verbindliche Sicherheitsarchitekturen und deren Durchsetzung im Alltag.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Gary Marcus fordert mehr KI-Regulierung nach Warnungen vor Cyberhacks" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Gary Marcus fordert mehr KI-Regulierung nach Warnungen vor Cyberhacks" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Gary Marcus fordert mehr KI-Regulierung nach Warnungen vor Cyberhacks« bei Google Deutschland suchen, bei Bing oder Google News!