LONDON (IT BOLTWISE) – Sicherheitsverantwortliche sehen offene KI-Plattformen zunehmend als attraktives Ziel. Laut Hugging-Face-Strategiechef Irene Solaiman zeigen Vorfälle wie der Angriff auf OpenCode, dass bereits gestohlene API-Keys zu erheblichen Schäden führen können. Parallel hat ein Infrastruktur-Startup wie Fireworks den Zugriff auf Self-Service-Dataset-Funktionen zeitweise eingeschränkt, nachdem Angreifer Modell-Weights, Datensätze und Abrechnungsdaten erreicht hatten. Die Debatte dreht sich damit um den Spagat zwischen Permissivität für Community-Beiträge und wirksamer Absicherung der KI-Infrastruktur.
Wer offene KI-Plattformen betreibt, gewinnt typischerweise Geschwindigkeit: Entwickler können Modelldaten, Trainingsskripte und Evaluations-Setups öffentlich machen, Reviewer finden sich schnell, und Pull Requests landen ohne lange Abstimmungszyklen im Repository. Genau diese offene Architektur beschreibt Irene Solaiman, Chief Policy Officer und SVP of Strategy bei Hugging Face, aber auch als Angriffsfläche. In ihrer Darstellung verknüpfen sich zwei Faktoren: Offene Türen erleichtern nicht nur Beiträge, sondern bündeln auch wertvolle Informationen in zentralen Diensten, die für Angreifer besonders lohnend sind.
Als jüngstes Beispiel nennt Solaiman den Angriff im Oktober auf OpenCode, bei dem Angreifer gezielt Nutzer-Zugangsdaten zu Drittanbieter-APIs angegriffen haben sollen. Dabei ging es nicht um einen theoretischen Worst Case, sondern um einen konkreten Missbrauch von dritten Schlüsselmaterialien, der laut ihrer Einordnung finanziellen Schaden verursachte. Der Kontext wird zusätzlich dadurch verschärft, dass in diesem Umfeld bereits ein Vorfall im Sommer berichtet wurde, bei dem eine Agenten-“Schwarm”-Logik offenbar Wege fand, in eine Plattformumgebung einzudringen und damit Antworten aus Sicherheitsauswertungen abzuschöpfen. Solaiman stellt damit die Grundfrage, wie offen zugängliche Ökosysteme die eigenen Vertrauensannahmen, also Identität und Zugriff, dauerhaft korrekt halten können.
Die Risiken betreffen dabei nicht nur Plattformen, die „Community first“ betreiben. AI-Infrastruktur ist in vielen Fällen dort aufgebaut, wo sich sensible Assets sammeln: Modell-Weights, Datensätze, Metadaten und Abrechnungsinformationen liegen häufig nicht im Besitz einzelner Forscher, sondern in verwalteten Services. Laut Berichten eines Infrastruktur-Startups wie Fireworks sollen Angreifer Zugriff auf Modell-Weights, Datensätze und Billing-Daten von Kunden erhalten haben; als Reaktion hat das Unternehmen zeitweise bestimmte Self-Service-Dataset-Funktionen deaktiviert, um die Ursache zu untersuchen. Solaiman ordnet das vorsichtig ein: Nicht jede Sicherheitslücke muss aus „Offenheit“ selbst resultieren, aber sie zeigt, wie hoch der Wertkonzentrationsfaktor bei KI-Providers ist.
Für Produkt- und Sicherheitsverantwortliche wird daraus ein Zielkonflikt: Wer Pull Requests ohne formale institutionelle Zugehörigkeit zulässt, muss mit Missbrauchsrisiken leben. Solaiman bringt das mit einem drastischen Gedankenexperiment auf den Punkt: Die Permissivität, die einsteigerfreundliche Beiträge aus dem Hobby-Umfeld ermöglicht, schafft zugleich Möglichkeiten für „Bad Actors“, die das System für alle anderen beschädigen. Gleichzeitig wäre ein pauschaler Rückzug von „offen“ nicht nur eine technische Umstellung, sondern eine Governance-Änderung mit Folgewirkungen auf das gesamte Ökosystem. Denkbar wären etwa Upload-Beschränkungen für Modelle oder Datensätze, strengere Identitätsprüfungen oder ein zusätzlicher Vetting-Schritt vor dem Freischalten bestimmter Funktionen. Diese Schutzmaßnahmen können zwar die Angriffsfläche reduzieren, zugleich aber den Zugang für unabhängige Forschende und einzelne Community-Mitglieder spürbar erschweren.
Hugging Face setzt nach Solaimans Darstellung daher zunächst auf konkrete Härtung statt auf grundlegende Restriktionen: Das Unternehmen baue Monitoring-Werkzeuge aus, um Angriffe früher zu erkennen, und setze zusätzlich Maßnahmen zur Prävention ein. Monitoring sei allerdings auch ein Kostenfaktor, weshalb nicht jede Plattform die gleiche Tiefe realisieren könne. Technisch nennt Solaiman als Beispiel, dass „Administrative access tokens“ stärker rotiert werden sollen als früher, sodass ein gestohlener Token deutlich weniger lang nutzbar bleibt. Dazu kämen strengere Netzwerk-Kontrollen. Im Kern läuft das auf eine Verbesserung der Zugriffslatenz hinaus: Nicht nur, wer Zugriff hat, sondern wie lange dieser Zugriff praktisch gültig ist.
Dieses Muster passt auch in andere Teile der Open-Source-Softwarelieferkette. Bei GitHub, das große Teile offener Projektarbeit bündelt, konzentriert sich die Abwehr gegen Angreifer, die bösartigen Code in Pakete einschleusen, um Malware schnell zu verbreiten. Aus Sicherheitsarbeit werden dabei zunehmend Anforderungen an das Publishing von Paketen für ein zentrales Paketverzeichnis abgeleitet: Authentifizierungstokens werden entzogen, neue Tokens erhalten kürzere Laufzeiten, und Veröffentlichungsprozesse werden enger abgesichert. Zach Steindler, ein Engineer, der Software Supply Chain Security betreut, betont in einer direkten Aussage, dass solche Maßnahmen Workflows zwar stören können, aber mehr Sicherheit ermöglichen, ohne die Teilnahme grundsätzlich einzuschränken: „It’s less about limiting functionality and more about going and fixing things that weren’t secure in the first place.“ Er weist außerdem darauf hin, dass Install-Skripte schon lange existieren, Angriffe aber zuletzt gezeigt hätten, wie gefährlich sie in Kombination mit kompromittierten Paketen werden können.
Für Unternehmen bedeutet das: „Offen“ ist nicht automatisch sicher, und „sicher“ ist nicht zwangsläufig gleichbedeutend mit „geschlossen“. Die realistische Strategie verschiebt sich vielmehr in Richtung risikobasierter Absicherung dort, wo Credentials, Datenzugriff und Ausführungsketten zusammenlaufen. Steindler beschreibt den Schwerpunkt in einem weiteren Zitat ebenfalls als Impact-orientierte Sicherheit: „Security is all about maximizing impact with the resources we have, and I would much rather invest in detecting suspicious behavior and containment capabilities: things that cover all accounts and access methods. Suspicious behavior is suspicious regardless of who is exhibiting it.“ Übertragen auf KI-Ökosysteme heißt das: Plattformbetreiber müssen nicht nur Angriffsversuche erkennen, sondern auch die Ausbreitungsfähigkeit begrenzen – etwa durch Rotation, Netzwerkrestriktionen und die rechtzeitige Eindämmung, bevor kompromittierte Zugriffsrechte zu Zugriff auf Trainingsdaten oder Modell-Weights eskalieren.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Offene KI-Modelle unter Druck: Angriffe auf APIs und Modell-Weights treiben Sicherheitsdilemmata" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Offene KI-Modelle unter Druck: Angriffe auf APIs und Modell-Weights treiben Sicherheitsdilemmata" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Offene KI-Modelle unter Druck: Angriffe auf APIs und Modell-Weights treiben Sicherheitsdilemmata« bei Google Deutschland suchen, bei Bing oder Google News!