PITTSBURGH / LONDON (IT BOLTWISE) – Gray Swan, ein Startup aus Pittsburgh, hat eine Series-A-Finanzierung über 40 Millionen US-Dollar abgeschlossen und will damit den Marktzugang sowie Partnerschaften mit führenden Forschungslaboren beschleunigen. Das Team entwickelt eine Plattform, die KI-Modelle und Agenten vor dem Livegang auf Schwachstellen prüft, gefährliches Verhalten in Echtzeit blockiert und kontinuierlich mit aktuellen Threat-Insights versorgt wird. Laut Mitgründer Zico Kolter soll so die Zuverlässigkeit KI-gestützter Anwendungen steigen, ohne Abstriche bei Sicherheitsanforderungen zu machen. Mehr als 20 Kunden aus Frontier Labs und großen Unternehmen gehören bereits zum Profil, das das Produkt in den Markt treiben soll.
Gray Swan, ein KI-Security-Startup mit Sitz in Pittsburgh, meldet den Abschluss einer 40-Millionen-US-Dollar-Series-A-Runde und setzt damit einen klaren Akzent in einem Bereich, der in der Praxis oft erst spät adressiert wird: der systematischen Absicherung von Künstlicher Intelligenz vor produktivem Einsatz. Während viele Teams bei KI-Deployments zunächst auf Performance und Qualität achten, geraten Sicherheitsrisiken wie Prompt-Manipulation, unerwünschtes Tool-Use-Verhalten oder nicht intendierte Datenflüsse immer stärker in den Fokus. Das Unternehmen positioniert sich als „Safety-Test“-Schicht für Modelle und Agenten und will die Finanzierung vor allem in Go-to-Market-Aktivitäten, tiefere Kooperationen mit führenden Laboren und den Ausbau des Teams lenken.
Technisch versteht sich die Plattform als mehrstufiges Sicherheitskonzept, das Testen und Überwachen miteinander verbindet. Das erste Element, Shade, führt laut Unternehmensangaben Schwachstellenanalysen an KI-Modellen durch, bevor sie in echte Workloads übergehen. Damit wird das Risiko adressiert, dass bekannte oder neu auftretende Angriffsflächen erst im Feld sichtbar werden, etwa wenn sich Nutzerverhalten dynamisch von Annahmen im Trainings- oder Testprozess unterscheidet. Cygnal übernimmt anschließend die operative Rolle: Es soll gefährliches Verhalten in Echtzeit erkennen und blockieren, also zwischen „was wurde geprobt?“ und „was passiert gerade?“ eine Schutzbrücke schlagen.
Entscheidend ist dabei der dritte Baustein Arena, der eine breite Basis an Prüfern organisatorisch in die Pipeline integriert. Arena wird als globales Netzwerk mit mehr als 15.000 „ethical hackers“ beschrieben, die KI-Systeme gezielt auf Schwachstellen testen. Der Mehrwert liegt weniger im einzelnen Penetrationstest als im kontinuierlichen Feedbackloop: Die entdeckten Muster fließen als Threat-Intelligence zurück in Shade und Cygnal, sodass das System mit der Angriffslandschaft Schritt halten kann. Historisch war dieser Ansatz bislang häufig fragmentiert – Tools wurden getrennt für Red-Teaming, Monitoring oder Modell-Checks entwickelt. Gray Swan bündelt diese Funktionen zu einer zusammenhängenden Produktschicht, die sich besonders für Agenten eignet, die Tools und Datenquellen koordinieren.
Im Markt zeigt sich das Timing besonders deutlich. Gray Swan wurde als Spinout aus der Carnegie Mellon University beschrieben und ist in Safety-Reports großer Tech-Anbieter erwähnt worden, darunter Anthropic, OpenAI und Meta. Diese Nennung ist für Enterprise-Kunden häufig ein wichtiges Signal: Sie reduziert das initiale Bewertungsrisiko, weil bereits externe Referenzen existieren. Zudem arbeitet Gray Swan laut Angaben mit über 20 Kunden, verteilt über „frontier labs“ und globale Unternehmen. Das passt zu einem Trend, bei dem sich Sicherheitsanforderungen aus der Forschung in produktisierte Workflows verlagern – ähnlich wie sich früher Security-Scanning und Compliance-Checks von Spezialfällen zu Standardbausteinen in CI/CD weiterentwickelten.
Die Runde wurde ko-led von Wing Venture Capital und Madrona, begleitet von Investoren wie Obvious Ventures, Snowflake Ventures, Hudson River Trading, Samsung Next sowie dem bestehenden Pittsburgh-Investor Magarac Venture Partners. Von außen betrachtet ist das bemerkenswert, weil mehrere dieser Häuser in unterschiedliche Richtungen der Tech-Wertschöpfung investieren: von Infrastruktur- und Datenplattformen bis hin zu produktnahen Enterprise-Ökosystemen. Dass Snowflake Ventures teilnimmt, unterstreicht zudem den Schulterschluss in Richtung Daten- und Plattformumgebungen, in denen KI-Workloads oft laufen. Für Wettbewerber in der KI-Security-Landschaft bedeutet das: Es reicht nicht mehr, einzelne Tools zu liefern; vielmehr wird ein orchestrierbarer, fortlaufender Sicherheitsprozess erwartet.
Branchenexperten betonen seit Monaten, dass KI-Sicherheit zunehmend „operationalisiert“ werden muss. Eine reine Laborbewertung genügt selten, sobald Agenten in Produktionssysteme integriert sind, etwa in Kundenservice, Entwicklerunterstützung oder Compliance-nahe Workflows. In diesem Kontext wird eine Kombination aus präventivem Testen (vor dem Go-live) und reaktiver Überwachung (während der Nutzung) zum zentralen Erwartungsprofil. Gray Swan liefert dafür konkrete Elemente, die auch aus Expertensicht konsistent sind: Zico Kolter, Chief Scientist und Mitgründer, betont, dass KI-Anwendungen schneller denn je wachsen und Deployments zuverlässig bleiben müssen. Matt Fredrikson, CEO und Mitgründer, ordnet die Finanzierung als Möglichkeit ein, die Mission parallel zur Entwicklung an der Frontier zu verfolgen.
Regulatorisch und datenschutzbezogen liegt die Herausforderung bei solchen Plattformen häufig weniger im „Ob“, sondern im „Wie“: Sicherheitstests müssen so gestaltet sein, dass sie nicht unbeabsichtigt sensible Inhalte aus Nutzungen oder Modellkontexten sammeln oder weiterleiten. Auch wenn der Bericht keine detaillierten Compliance-Mechanismen nennt, ist für Enterprise-Kunden entscheidend, wie Threat-Intelligence gehandhabt wird, welche Telemetriedaten anfallen und wie Zugriffs- und Löschkonzepte umgesetzt werden. Gerade bei globalen Konzernen treffen hier häufig Anforderungen aus Datenschutz- und Sicherheitsregimen zusammen, die Auditierbarkeit und nachvollziehbare Schutzmaßnahmen fordern. Ein weiterer Punkt ist die Robustheit gegenüber Prompt Injection und indirekter Datenexfiltration, die in vielen Policies schwer zu erfassen ist.
Mit der aktuellen Finanzspritze plant Gray Swan, neben dem weiteren Produkt- und Partnerausbau auch die Teamgröße zu erhöhen, aktuell mit Einstellungsangeboten in Engineering, Sales und Marketing. Die angegebenen Gehaltsspannen bis zu 260.000 US-Dollar deuten darauf hin, dass das Startup nicht nur „R&D-lastig“ bleiben will, sondern die Go-to-Market-Schicht gezielt verstärkt. Für die Zukunft ist dabei wahrscheinlich, dass KI-Sicherheitsplattformen stärker in MLOps- und Agenten-Deployments integriert werden: Modelle werden weniger als einzelne Artefakte betrachtet, sondern als laufende Systeme, die kontinuierlich getestet, überwacht und anhand neuer Angriffsvektoren nachkalibriert werden müssen. Wenn diese Entwicklung konsequent voranschreitet, werden Entwickler neue Sicherheits-Schnittstellen in ihren Pipelines erwarten – und Plattformen wie Gray Swan könnten sich als verbindender Layer zwischen Forschung, Betrieb und Compliance etablieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Gray Swan sichert sich 40 Mio. US-Dollar Series A für KI-Sicherheits-Tests" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Gray Swan sichert sich 40 Mio. US-Dollar Series A für KI-Sicherheits-Tests" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Gray Swan sichert sich 40 Mio. US-Dollar Series A für KI-Sicherheits-Tests« bei Google Deutschland suchen, bei Bing oder Google News!