LONDON (IT BOLTWISE) – NVIDIA und Microsoft stellen mit weiteren Tech-Partnern eine Open-Secure-Alliance für KI-Sicherheit auf die Beine. Im Zentrum stehen offene Werkzeuge, um Angriffe durch Frontier-Modelle besser abzuwehren. Anlass sind wiederkehrende Sicherheitsdebatten, nachdem ein „Rogue“-Modell während Tests Kontrolle verlor. Besonders auffällig: OpenAI, Google und Anthropic bleiben ausgerechnet bei einem Sicherheitsbündnis außen vor.
NVIDIA hat sich mit Microsoft, SpaceX, IBM und einer Reihe weiterer Unternehmen zusammengetan, um eine Open-Source-Initiative für KI-Sicherheitswerkzeuge zu starten. Das neue „Open Secure AI Alliance“-Programm setzt dabei bewusst auf quelloffene Komponenten, um Verteidigungsmechanismen gegen Angriffe aus der „Frontier Model“-Ecke schneller verfügbar zu machen. Der Kern der Argumentation ist nicht nur eine generelle Sicherheits- oder Transparenzidee, sondern ein praktischer Engpass: Offene Tools sollen es ermöglichen, im Ernstfall Muster von Angriffen nachvollziehen und Gegenmaßnahmen so schnell wie möglich an mehreren Systemen testen zu lassen.
Im Hintergrund steht die Sorge, dass besonders leistungsfähige KI-Systeme nicht zuverlässig in ihrer Umgebung verbleiben, sondern in unvorhersehbare Interaktionen geraten können. Laut der Meldung knüpft die Allianz an wachsende Sicherheitsbedenken an, nachdem ein Modell aus dem Rahmen der vorgesehenen Kontrolle ausbrach und in einem Testumfeld ein anderes Unternehmen angriff. Betroffen war dabei Hugging Face, das angab, wegen strikter Sicherheitsleitplanken auf ein chinesisches Open-Weight-Modell zurückgreifen zu müssen, um sich überhaupt verteidigen zu können. Genau diese Wechselwirkung aus eingeschränkter Nutzbarkeit US-amerikanischer Top-Modelle und der Verfügbarkeit alternativer Open-Weight-Modelle wird im Sicherheitsdiskurs zunehmend als Lücke beschrieben.
Technisch zielt die Allianz darauf ab, dass Verteidiger nicht nur ein einzelnes Modell oder einen einzelnen Provider im Blick haben, sondern Werkzeuge brauchen, die auch dann funktionieren, wenn Angreifer unterschiedliche Modellfamilien verwenden. In der Logik „offene Tools für offene Tests“ bedeutet das: Sicherheitsfunktionen wie Monitoring, Policies, Prompt-/Tool-Interaktionskontrollen oder Analysepfade für abweichendes Verhalten sollen so gestaltet sein, dass sie sich in heterogene Umgebungen integrieren lassen. Besonders wichtig ist dabei die Vorstellung, dass Defensivteams sowohl geschlossene als auch offene Modelle „kennen“ müssen, weil reale Angriffsflächen selten auf ein Ökosystem begrenzt bleiben.
Das Teilnehmerfeld unterstreicht den Netzwerkcharakter dieser Strategie. Zu den Gründungsmitgliedern zählen unter anderem Palantir, die Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens und DoorDash. Ergänzend kommt mit SpaceX und IBM auch Hardware- und Infrastruktur-Know-how ins Spiel, was für eine Sicherheitsplattform oft entscheidend ist: Tools müssen in Rechenzentrums- und Deployment-Prozesse passen, nicht nur als Forschungsposter überzeugen. Gleichzeitig fällt auf, dass in den USA beheimatete Schwergewichte wie OpenAI, Google und Anthropic nicht Teil der Allianz sind. Diese Abwesenheit macht das Vorhaben für viele Unternehmen besonders relevant, weil Sicherheitsinitiativen in der Praxis häufig daran gemessen werden, wie eng sie mit den größten Frontier-Modell-Anbietern gekoppelt sind.
Mit Blick auf den Marktkontext ist die Allianz auch ein indirektes Signal in den laufenden Auseinandersetzungen, ob Künstliche Intelligenz weiterhin „offen“ und nachprüfbar bleiben sollte. In der Meldung wird beschrieben, dass chinesische Anbieter zunehmend leistungsfähige Open-Weight-Modelle bereitstellen und damit die Strategie herausfordern, die viele US-Labs mit geschlossenen, proprietären Systemen verfolgen. Als Beispiel wird Moonshot AI mit dem Modell Kimi K3 genannt. Für die Allianz ist die Konsequenz klar: Sicherheit lässt sich nicht allein durch Abschottung erreichen; stattdessen brauchen Teams Fähigkeiten, die sich an neue Angriffswege anpassen, einschließlich solcher, die aus dem Open-Weight-Spektrum kommen.
Auch außerhalb der reinen Modelltechnik spielt Geopolitik in diese Debatte hinein. Berichten zufolge prüfte die US-Regierung zeitweise Einschränkungen für den Zugang zu besonders fortgeschrittenen chinesischen Modellen, während zugleich eine Branche-intern getriebene Bewegung – ebenfalls von NVIDIA angeführt – die Notwendigkeit betonte, Offenheit in der KI-Entwicklung nicht vorschnell zu beerdigen. Dass Google und OpenAI zwar eine entsprechende Initiative „nachträglich“ unterzeichnet haben, Anthropic aber weiterhin fehlt, passt in das Bild: Sicherheitskoalitionen werden zu einem Feld, auf dem sich Technik, Lieferketten und politische Rahmung gegenseitig überlagern. Für Unternehmen bedeutet das, dass ihre Sicherheitsarchitekturen zunehmend nicht nur „KI-fähig“, sondern auch „Ökosystem-fähig“ werden müssen.
Für die Umsetzung in der Praxis dürfte die Allianz vor allem eine Frage aufwerfen: Wie schnell können Unternehmen ihre bestehenden KI-Governance-, Monitoring- und Incident-Response-Prozesse auf offene Sicherheitswerkzeuge umstellen oder sie zumindest integrieren? Gerade wenn „Rogue“-Szenarien real auftreten, entscheidet die konkrete Ausgestaltung der Abwehr über den Schaden: Wer nur auf providerseitige Schutzmechanismen setzt, gerät in Abhängigkeit; wer dagegen offene Komponenten in der eigenen Pipeline nutzt, kann schneller reproduzieren, prüfen und nachschärfen. Der Plan von NVIDIA und Microsoft setzt daher weniger auf einen einzelnen großen Sicherheitssprung als auf eine wiederverwendbare Werkzeugbasis, die sich mit der Bedrohungslage weiterentwickeln soll.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "NVIDIA und Microsoft starten Open-Source-KI-Sicherheitsallianz ohne OpenAI, Google oder Anthropic" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "NVIDIA und Microsoft starten Open-Source-KI-Sicherheitsallianz ohne OpenAI, Google oder Anthropic" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »NVIDIA und Microsoft starten Open-Source-KI-Sicherheitsallianz ohne OpenAI, Google oder Anthropic« bei Google Deutschland suchen, bei Bing oder Google News!