LONDON (IT BOLTWISE) – Branchenführer bauen mit der Open Secure AI Alliance eine gemeinsame Basis für KI-Sicherheit auf. Im Zentrum stehen offene Modelle, offene „Harnesses“ und prüfbare Kontrollmechanismen für KI-Agenten. Die Allianz will bei Schwachstellen nicht nur melden, sondern sie mit transparenten Verfahren auch beheben und wiederholbar testen. Damit soll die Abwehr in einem Multi-Provider-Ökosystem weniger abhängig von einzelnen, abgeschlossenen Anbietern werden.
Die Idee hinter der Open Secure AI Alliance ist weniger ein weiterer „Sicherheitsstandard“ als vielmehr ein praktischer Bauplan für KI-Abwehr. Ausgangspunkt ist die Beobachtung, dass moderne Künstliche Intelligenz in der Realität selten als einzelnes Modell existiert, sondern als Agentenstack mit Identität, Berechtigungen, Tooling (Harnesses), Guardrails, Logging und Evaluationslogik. Wer nur die Modellgewichte offen oder geschlossen betrachtet, greift daher zu kurz: Sicherheit entsteht erst im Zusammenspiel dieser Schichten, insbesondere wenn Agenten über Tools auf Systeme zugreifen und dabei Entscheidungen treffen müssen, die sich nachweisbar nachvollziehen lassen.
Entscheidend ist auch der Markt- und Systemkontext: Cloud, Finanzdienstleistungen, Fertigung und Telekommunikation bauen heute auf Software, die über offene Schnittstellen zumindest teilweise beobachtbar sein muss. Genau dort bringt Open Source laut Initiatoren einen messbaren Sicherheitsvorteil, weil Schwachstellen schneller identifiziert, geprüft und in verteilten Communities abgesichert werden. Für KI-Sicherheit folgt daraus eine grundsätzliche Weichenstellung: Abwehrmechanismen dürfen nicht in wenigen undurchsichtigen Systemen „kapseln“, wenn es im Ernstfall um forensische Analyse, schnelle Anpassung und lokales Betreiben geht. Gerade bei Agentic KI ist die Latenz der Reaktion ein kritischer Faktor, weil Angreifer typischerweise versuchen, Zeitfenster auszunutzen.
Als konkretes Warnsignal wird auf einen Sicherheitsvorfall bei Hugging Face verwiesen. Dort habe die Analyse gezeigt, dass Verteidiger ohne die Möglichkeit zur Inspektion, Anpassung und zum eigenständigen Ausführen fortgeschrittener KI-Lösungen in dem Moment eingeschränkt sind, in dem Geschwindigkeit zählt. Der Bericht beschreibt, dass ein Open-Weight-Modell (GLM 5.2) auf eigener Infrastruktur eingesetzt wurde, um mehr als 17.000 Aktionen zu untersuchen und die Eindringung einzudämmen. Im Kern argumentiert die Allianz damit: Offenheit ist nicht automatisch „sicher“, aber sie schafft eine Verifizierbarkeit, die Defender brauchen, um Angriffe zu verstehen und Abwehrsysteme gezielt zu verbessern.
Technisch verschiebt sich der Fokus in dieser Initiative deshalb vom Modellgewicht als einzelner Entscheidungsgröße hin zu einer offenen „Defense Stack“-Sicht. NVIDIA kündigt im Rahmen der Allianz das Projekt „NVIDIA Labs Object-Oriented Agent (NOOA)“ an, das als Open-Source-Framework über GitHub verfügbar sein soll. Ziel ist es, Agenten-„Harnesses“ besser mit Modellen zu integrieren, damit Verhalten einfacher testbar, nachvollziehbar (tracebar), auditierbar und steuerbar wird. Diese Art von Orchestrierung ist in der Praxis relevant, weil Sicherheitschecks oft nicht am Modell selbst enden, sondern an den Übergängen stattfinden: Wie erkennt ein Agent die Identität einer Anfrage? Welche Tools darf er aufrufen? Welche Guardrails blockieren riskante Aktionen? Und wie wird im Betrieb dokumentiert, was tatsächlich passiert ist?
Daneben nennt die Allianz mehrere Bausteine anderer Partner, die jeweils an verschiedenen Punkten des Agenten-Stacks ansetzen. HPE steuert Beiträge zu SPIFFE/SPIRE bei, also einem Zero-Trust-Identitätsrahmen, der kryptografisch prüfen können soll, welche AI-Agents und Services autorisiert kommunizieren und auf Ressourcen zugreifen. Hugging Face liefert Safetensors als sicheres Format für Modellgewichte, das Transparenz verspricht und verhindern soll, dass beim Laden Code aus der Ferne ausgeführt wird. IBM und Red Hat erweitern Sicherheitsmechanismen in der Open-Source-Zulieferkette über digital signierte Patches, während Microsofts MDASH als Multi-Model-Scanning-Harness mehrere spezialisierte KI-Agenten koordinieren soll, um potenziell ausnutzbare Bugs zu entdecken, zu diskutieren und nach Möglichkeit zu beweisen. Für die Entwicklerperspektive wird außerdem beschrieben, dass SpaceXAI einen terminalbasierten KI-Coding-Agenten offen bereitstellt und perspektivisch auch die Gewichte einer Modellreihe für Community und Forschung zugänglich machen will.
Politisch und regulatorisch richtet sich die Initiative an Entscheidungsträger: Offenere Modelle und offene Sicherheitstools sollen als Verteidigungsressource verstanden werden, nicht als Risiko. Ein pauschales Verbot oder zu enge Einschränkungen für „Open Frontier“-Systeme würden aus Sicht der Initiatoren die defensive Kapazität schwächen und Macht sowie Abhängigkeit von wenigen geschlossenen Anbietern erhöhen. Für Unternehmen heißt das: KI-Sicherheitsarchitekturen sollten nicht nur „irgendwie“ konform sein, sondern real in die eigene Betriebsumgebung integrierbar bleiben – inklusive Evaluations- und Red-Teaming-Fähigkeiten. Die Allianz formuliert damit ein Zielbild widerstandsfähiger Systeme: nicht durch Annahmen, dass Geheimhaltung allein schützt, sondern durch transparente Mechanismen, die sich prüfen, verbessern und gemeinsam mobilisieren lassen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Open Secure AI Alliance: Offene KI-Sicherheitsbausteine für Agenten" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Open Secure AI Alliance: Offene KI-Sicherheitsbausteine für Agenten" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Open Secure AI Alliance: Offene KI-Sicherheitsbausteine für Agenten« bei Google Deutschland suchen, bei Bing oder Google News!