BERKELEY / LONDON (IT BOLTWISE) – Der KI-Pionier Andrew Ng berichtet, dass sich Open-Weight-Modelle für Sicherheits- und Cyber-Reviews als weniger riskant erweisen als geschlossene Modelle. Für eine Prüfung seines neuen KI-Agenten-Tools OpenWorker griff er auf Moonshot AI’s Kimi K3 und Zhipu AI’s GLM-5.2 zurück, nachdem führende US-Modelle nicht halfen. Laut Ng schieben „Safeguards“ in aktuellen US-Modellen zwar schädliche Anfragen ab, blockieren aber offenbar auch legitime Unterstützung bei der Absicherung von Systemen. Das verstärkt den Trend, dass US-Teams für Sicherheitsaufgaben gezielt auf chinesische Open-Modelle ausweichen.
Im Zentrum der aktuellen Sicherheitsdebatte steht ein scheinbar paradoxes Argument: US-nahe KI-Entwickler setzen für Cyber-Sicherheitsprüfungen zunehmend auf chinesische „open-weight“-Modelle, weil diese sich in der Praxis als besser steuerbar oder zumindest weniger blockierend erwiesen haben als geschlossene Systeme. Andrew Ng, bekannt als früherer Kopf von Google Brain und ehemaliger Chief Scientist bei Baidu, ordnete diese Sicht im Rahmen des Agentic AI Summit in Berkeley ein. Seine Kernaussage lautet, dass Open-Weight-Modelle aus seiner Beobachtung heraus „sicherer“ wirken als Closed-Weight-Modelle. Entscheidend ist dabei weniger ein theoretischer Sicherheitsbegriff, sondern der konkrete Ablauf eines Reviews: Welche Antworten liefern die Modelle, wenn man sie auf Schwachstellen, Missbrauchsszenarien oder Abwehrlogik prüft?
Ng beschreibt, dass er zusammen mit einem Kollegen zwei chinesische Modelle – Moonshot AI’s Kimi K3 und Zhipu AI’s GLM-5.2 – für eine Sicherheitsüberprüfung ihres neuen Open-Source-Agenten-Tools OpenWorker genutzt hat. OpenWorker war dem Bericht zufolge erst im letzten Monat veröffentlicht worden. Der Hintergrund: Als Ng und sein Team mit führenden US-Modellen, darunter OpenAI- und Anthropic-Modelle, die gleiche Aufgabe durchführen wollten, verweigerten diese die Unterstützung. Damit wird ein praktisches Spannungsfeld sichtbar, das viele Unternehmen aus eigenen Evaluationsprojekten kennen: Sicherheitsmechanismen sind darauf ausgelegt, schädliche Anleitungen zu unterbinden – können aber gleichzeitig dazu führen, dass auch legitime Tests, also das „Red-Teaming“ im defensiven Sinn, nicht mehr so hilfreich oder vollständig ausfällt, wie man es für eine belastbare Bewertung bräuchte.
Genau hier setzt die Branchensicht an, dass die neueren US-Modelle mit stärker ausgeprägten „Safeguards“ zwar das Risiko eines direkten Missbrauchs verringern sollen, aber Nutzer zugleich über typische Edge-Cases hinweg benachteiligen können. Im Bericht heißt es, dass Anwender die Safeguards auch dann erleben, wenn sie eigentlich harmlose, defensive Ziele verfolgen – etwa beim Aufbau oder der Härtung von Cybersicherheits-Systemen. Das Problem ist technisch nachvollziehbar: Eine Schutzschicht, die zu aggressiv klassifiziert oder zu restriktiv ablehnt, kann im Sicherheitsbetrieb ganze Kategorien von Anfragen treffen, die eigentlich zur Erkennung und Behebung von Schwachstellen gehören. In der Praxis verlagert das die Arbeit der Sicherheitsteams auf Umwege: Wenn eine Modellkategorie für Tests nicht zur Verfügung steht, müssen alternative Modelle her, die die gewünschte Aufgabenstellung abdecken.
Dass diese Umwege konkret zu chinesischen Modellen führen, zeigt auch ein zweites Beispiel aus der Open-Source-Ökosystemwelt: Berichten zufolge griff auch das in New York ansässige Code-Repository Hugging Face zuletzt auf GLM-5.2 zurück, um sich gegen einen Cyberangriff zu verteidigen, der mit Modellen von OpenAI zusammenhing. Der Punkt daran ist nicht, dass Open-Modelle per se besser oder „gutartig“ wären, sondern dass sie in bestimmten Sicherheits-Workflows verfügbar bleiben, wenn geschlossene Angebote im selben Moment für die fragliche Unterstützung blockieren. Für Entwicklerteams bedeutet das eine reale Entscheidungsfrage im Tooling: Setzt man für Safety-Reviews dieselben Systeme ein, die später auch für Produktfunktionen genutzt werden, oder trennt man die Rollen und nutzt unterschiedliche Modellfamilien je nach Aufgabe – etwa einmal für offensive Simulationen, einmal für defensive Formulierung, einmal für Code- oder Log-Analysen?
Technisch betrachtet verschiebt sich damit die Bedeutung von „open-weight“ gegenüber „open-source“: Open-weights erlauben Teams, Modelle stärker nach dem eigenen Sicherheitskontext zu untersuchen, eigene Prüfprozesse zu bauen und Antworten gezielt in Trainings- oder Review-Protokolle einzubetten. Gleichzeitig bleibt natürlich die zentrale Frage bestehen, wie verlässlich sich „Sicherheit“ im Sinne eines Outputs prüfen lässt, wenn ein Modell keine Unterstützung verweigert. Genau deshalb ist das Sicherheitsreview als Methode relevant: Es geht darum, Modelle nicht einfach nur „zu benutzen“, sondern sie in kontrollierten Szenarien zu testen, ihre Grenzbereiche zu dokumentieren und die entstehenden Ergebnisse mit anderen Signalen abzugleichen, beispielsweise mit statischen Code-Scans, Mustererkennung in Logs oder manuellen Review-Zyklen. In diesem Rahmen wirkt die im Bericht beschriebene Wahl für OpenWorker weniger wie ein politisches Statement und mehr wie eine operative Reaktion auf die Blockade von Closed-Model-Angeboten in sensiblen Aufgaben.
Für die Markt- und Produktseite entsteht daraus eine klare Konsequenz: Wenn KI-„Safeguards“ legitime Sicherheitsarbeit zu stark verhindern, steigt der Bedarf an mehreren Modelloptionen in der Sicherheitskette. Unternehmen, die agentische Systeme einsetzen, werden zudem noch stärker darauf achten, welche Rollen ihre Modelle übernehmen dürfen – vom Prompting bis zur Auswertung. Die Diskussion um Open-Weight-Modelle zeigt damit auch, dass „Sicherheit“ in der Praxis oft ein Zusammenspiel aus Modellverhalten, Policy-Schicht und Prozessdesign ist. Der nächste Schritt wird daher weniger die Frage „welches Modell ist sicher?“ sein, sondern „wie gestaltet man einen sicheren Arbeitsablauf“, in dem Modelle trotz unterschiedlicher Ablehnlogiken sinnvoll zusammenarbeiten können – ohne dass Teams für jeden Testzyklus auf interne Workarounds zurückgreifen müssen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Sicherheitschecks: Andrew Ng setzt für Agenten auf chinesische Open-Modelle" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Sicherheitschecks: Andrew Ng setzt für Agenten auf chinesische Open-Modelle" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Sicherheitschecks: Andrew Ng setzt für Agenten auf chinesische Open-Modelle« bei Google Deutschland suchen, bei Bing oder Google News!