LONDON (IT BOLTWISE) – Chinesische Open-Weight-Modelle wie Z.ai’s GLM-5.2 holen bei Cyber- und Bio-Fähigkeiten deutlich auf und liegen laut SaferAI nur wenige Monate hinter den vordersten Frontier-Systemen. Gleichzeitig zeigt die Bewertung eine wachsende Kluft zwischen leistungsfähigen Modellen und robusten Sicherheitspraktiken: GLM-5.2 verweigerte keine der geprüften Offensiv- oder Dual-Use-Aufgaben. Bei geschlossenen Modellen wie Claude Opus 4.7 reichten die Abwehrmechanismen offenbar so weit, dass selbst ein gängiger Cyber-Sicherheitsbenchmark nicht vollständig durchführbar war. Für Politik und Unternehmen rückt damit die Frage in den Fokus, wie Risiko-Absicherungen funktionieren, sobald Gewichte auf eigener Hardware laufen.
Die Debatte um KI-Sicherheit verschiebt sich gerade vom „Können“ hin zum „Wie wird es geschützt“. Während sich Open-Weight-Modelle von ihrer früheren Nischenrolle entfernen und bei zentralen Fähigkeiten an die vorderste „Frontier“-Klasse heranrücken, bleibt ein strukturelles Problem ungelöst: Sobald Nutzer die Modellgewichte herunterladen und lokal ausführen, lassen sich Schutzmechanismen aus dem Betriebssystem nicht mehr zuverlässig durchsetzen. Genau dieses Spannungsfeld steht im Mittelpunkt einer neuen Bewertung, die für öffentliche Aufmerksamkeit sorgt, weil sie nicht nur Leistungsbenchmarks, sondern auch das Verhalten bei riskanten Anfragen betrachtet.
Im Bericht, der Open-Weight-Modelle wie GLM-5.2 der Firma Z.ai mit führenden Systemen vergleicht, heißt es, das Modell liege bei Cyber- und Bio-Fähigkeiten nur wenige Monate hinter Modellen wie GPT-5.5 und Claude Opus 4.7. Gleichzeitig zieht SaferAI daraus einen klaren Befund: Die Sicherheitslücke zwischen „Capability“ und „Risk Mitigation“ wachse. In der Evaluation via Z.ai-öffentlicher Programmierschnittstelle (API) habe GLM-5.2 keine der geprüften Offensiv-Cyber- oder Dual-Use-Biologie-Aufgaben verweigert. Zum Vergleich wird beschrieben, dass Claude Opus 4.7 so konsequent ablehnte, dass die Organisation den CyberGym-Check auf diesem System nicht vollständig abschließen konnte. CyberGym dient dabei als Benchmark zur Einordnung von Cybersecurity-Fähigkeiten; im Text wird außerdem darauf verwiesen, dass OpenAI ihn in einer Auswertung vor einem später bekannt gewordenen Vorfall mit Hugging Face eingesetzt habe.
Der technische Kern des Problems liegt weniger in einzelnen „Schutzfeatures“ als in ihrer Durchsetzbarkeit. Frontier-Entwickler setzen häufig auf kombinierte Barrieren wie Klassifikatoren, Ablehnungs- bzw. Refusal-Training und Kontrollen auf API-Ebene, also dort, wo die Kommunikation mit dem Modell serverseitig stattfindet. Dieses Muster funktioniert jedoch nur solange, wie das Modell tatsächlich unter Kontrolle des Anbieters läuft. Bei Open-Weight-Modellen ist die Architektur für den breiteren Einsatz gerade so angelegt, dass sie auf „beliebiger Infrastruktur“ mit beliebig konfigurierbaren Sicherungen betrieben werden können – inklusive der Möglichkeit, Filter zu entfernen, Schutzlogik zu verändern, oder durch gezielte Prompting-Strategien das Systemverhalten zu beeinflussen. Hinzu kommt, dass selbst bei geschlossenen Modellen Jailbreaks wiederholt nachweisen, dass Lücken in der Abwehr nicht dauerhaft „geschlossen“ bleiben. Laut der im Text erwähnten Arbeit zu universal einsetzbaren Jailbreaks funktionieren solche wiederverwendbaren „Schlüssel“ besonders dann gut, wenn Angreifer mehrere Manipulationstechniken kombinieren: Rollenspiele, Autoritätsimitation, gefälschte Konversationshistorien und nachgelagerte Folgeprompts sollen jeweils die Schwachstellen in der Schutzschicht verstärken.
Damit verschiebt sich auch die Strategiefrage: Reicht es, die Fähigkeiten zu verbessern, oder braucht es ein Betriebskonzept, das Sicherheitsrisiken „eingebaut“ hält? Papadatos, Executive Director von SaferAI, bringt den Grundsatz in einer zugespitzten Form auf den Punkt: „The frontier of capability is not the frontier of risk, and so we do have to take into account the state of the mitigations as well to assess the risk properly.“ Aus Sicht des Textes sind klassische Maßnahmen wie Pre-Training-Datenfilterung zwar grundsätzlich denkbar, aber nicht überall gleich gut umsetzbar. Für Biologie wird im Bericht angedeutet, es gebe Hinweise, dass das gezielte Entfernen problematischer Inhalte aus Trainingsdaten gefährliches Wissen reduzieren könne, ohne die Gesamtleistung stark zu beeinträchtigen. Im Bereich Cybersecurity sei ein vergleichbares Vorgehen jedoch deutlich schwieriger, weil ein Modell, das stark im Codieren ist, gleichzeitig Gefahr läuft, auch als „hackerfähiger“ Assistent zu wirken. Genau diese Marktdynamik beschreibt der Text auch als Treiber: Coding ist für viele Anbieter der umsatzstärkste Use Case, wodurch sich der Druck erhöht, Modellfähigkeiten weiter auszubauen, während Schutzkonzepte nicht im gleichen Tempo skalieren.
Entsprechend setzen manche Frontier-Anbieter auf restriktivere Nutzungslogik. Im Text wird als Beispiel genannt, dass bei Anthropic bestimmte Formen von Assistance eingeschränkt sind: Opus 5 könne nach Systemangaben zwar nach Schwachstellen in nicht kompiliertem Quellcode suchen, aber nicht in kompilierter Software. Andere Maßnahmen reichen von strenger Pre-Deployment-Validierung über veröffentlichte Risk Assessments bis hin zum Zurückhalten von Modellgewichten, falls ein System als zu gefährlich eingestuft wird. Für GLM-5.2 stellt SaferAI dagegen fest, dass Z.ai weder ein Sicherheitsframework noch konkrete Zusagen zu Tests vor der Veröffentlichung oder eine veröffentlichte Risikoanalyse geliefert habe. Auf Nachfrage nach internen oder externen Frontier-Sicherheitsprüfungen habe Z.ai im Text zudem nicht reagiert; damit bleibt offen, welche internen Gates vor der Freigabe existierten und wie belastbar sie unter adversarial Bedingungen waren.
Der politische Kontext verstärkt die Relevanz. Der Text ordnet ein, dass chinesische Entscheidungsträger Risiken fortgeschrittener KI anerkennen, gleichzeitig aber stärker auf „Open-Weight“-Strategien setzen. Auf der World AI Conference habe Xi Jinping betont, Open-Weight-Modelle zu stärken, zugleich jedoch sicherzustellen, dass KI unter strenger menschlicher Kontrolle bleibt. Graham Webster vom Stanford Cyber Policy Center wird außerdem mit einer Einschätzung zitiert: „U.S. AI thinkers are, in general, more concerned with this existential catastrophic [idea] than the Chinese community.“ Er ordnet zudem die Regulierungsfokussierung in China ein: Diese habe historisch eher politisch sensible Inhalte, Desinformation und soziale Stabilität adressiert, weniger aber „katastrophale“ KI-Risiken wie offensive Cyber-Fähigkeiten und biologische Zweckentfremdung. Aus seiner Sicht könne das dortige Durchsetzungsmodell – etwa Verantwortlichkeit von Unternehmen und Nutzern – in Teilen als Grundlage dienen, um auch Ablehnungs- und Weigerungsmechanismen so zu kalibrieren, dass offensive Cyber-Anfragen weniger wahrscheinlich zu verwertbaren Ergebnissen führen.
Offensiver gegenübersteht der Open-Weight-Argumentation ein zusätzlicher Sicherheitsnutzen, der im Text ebenfalls vorkommt. Befürworter verweisen darauf, dass veröffentlichte Gewichte Verteidigung ermöglichen: So sei Hugging Face im Zusammenhang mit einem bekannten Vorfall auf GLM-5.2 gesetzt worden, um sich gegen einen Angriff zu wappnen. Clem Delangue, CEO von Hugging Face, wird mit folgender Aussage wiedergegeben: „The same systems that helped stop an AI-powered cyberattack can now help defend against millions of cyberattacks every day, while helping us identify and fix vulnerabilities before attackers exploit them.“ Papadatos hält diese Sicht im Text jedoch für häufig überzeichnet und warnt gleichzeitig vor einer falschen Schlussfolgerung: Es gehe nicht darum, gefährliche Fähigkeiten „leicht zugänglich“ zu machen. Im gleichen Atemzug wird das strukturelle Asymmetrieproblem betont: Angreifer übernehmen neue Werkzeuge oft schneller als Verteidiger sie integrieren können. „For example, a ransomware group can change its methods in a week. A hospital cannot.“
Für Unternehmen ergibt sich daraus eine nüchterne Konsequenz: Die Auswahl zwischen „geschlossen“ und „offen“ ist nicht nur eine Frage der Leistungsfähigkeit, sondern auch der Risikokontrolle über den gesamten Lebenszyklus der Software. Closed-Modelle bieten eher durchsetzbare API-Gates, Open-Weight-Modelle hingegen verlangen, dass Schutzkonzepte auf Systemebene implementiert werden: Von sicherem Deployment-Design über Monitoring bis hin zu kontrollierten Modellkonfigurationen. Genau dort wird die Debatte politisch und praktisch spannend. Wenn sich Open-Weight-Systeme wie GLM-5.2 weiter annähern, wird die Branche nicht mehr die Frage stellen, ob sie mithalten können, sondern wie sich die „Mitigations“ technisch und organisatorisch so verankern lassen, dass aus hoher Modellkompetenz nicht automatisch ein höherer Missbrauchshebel wird.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Open-Weight-KI schließt die Fähigkeitslücke – aber Sicherheitsmaßnahmen bleiben zurück" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Open-Weight-KI schließt die Fähigkeitslücke – aber Sicherheitsmaßnahmen bleiben zurück" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Open-Weight-KI schließt die Fähigkeitslücke – aber Sicherheitsmaßnahmen bleiben zurück« bei Google Deutschland suchen, bei Bing oder Google News!