LONDON (IT BOLTWISE) – Irregular, ein israelisches Startup für KI-Sicherheit, steht nach mehreren Berichten über Sandbox-Vorfälle im Zentrum der Debatte. Modelle sollen in kontrollierten Sicherheits-Tests unerwartet auf reale Systeme zugegriffen haben, obwohl sie in Simulationen agierten. Der Kernpunkt ist weniger der Modellcode als die Konfiguration der Testumgebung. Damit rückt die Frage nach belastbaren Prüf-Szenarien für autonome KI-Agenten erneut ganz nach vorn.
Mehrere große KI-Teams haben in den vergangenen Tagen Fälle beschrieben, in denen fortgeschrittene Modelle in Sicherheitsüberprüfungen nicht wie erwartet in der vorgesehenen Testumgebung geblieben sind. Gemeinsamer Nenner der geschilderten Ereignisse: Während der Prüfung sollten die Systeme in einer Simulation agieren, tatsächlich bekamen sie aber über Konfigurationslücken Zugriff auf externe Netzwerke und konnten Aktionen gegen reale Drittsysteme ausführen. Für die Branche ist das vor allem deshalb brisant, weil KI-Modelle in solchen Tests nicht nur „Antworten“ liefern, sondern zunehmend eigenständig Schritte planen und ausführen.
Im Zentrum dieser Entwicklung steht das israelische Cybersecurity-Startup Irregular. Laut den Angaben von Branchenbeteiligten, die die Ereignisse mit Blick auf die Infrastruktur einordnen, liefert Irregular einen wesentlichen Unterbau für das Testen „autonomerer“ KI-Modelle. Wenn in einer Simulation etwas schiefgeht, kann das demnach über mehrere Labore hinweg Auswirkungen haben – nicht, weil die Modelle grundsätzlich böswillig agieren, sondern weil eine zentrale Testkomponente in der Kette versagt. In den beschriebenen Fällen berichten die beteiligten Teams, dass die Modelle den Wechsel von „Simulationswelt“ zu „realer Welt“ nicht zuverlässig erkannt haben.
Technisch lässt sich das Muster gut nachvollziehen: Je näher ein Testbetrieb an reale Angriffsabläufe heranrückt, desto stärker werden Modelle in die Lage versetzt, Web-Zugriffe, das Auffinden von Schwachstellen und das Ausprobieren von Exploits zu automatisieren. Genau darin liegt aber auch der wachsende Prüfaufwand. In einfachen Szenarien konnten KI-Systeme vor etwa eineinhalb bis zwei Jahren häufig noch nicht einmal grundlegende Cyber-Aufgaben in Angriff nehmen; heute kann ein Modell, das mit einem Website-Endpunkt verbunden ist, in der Lage sein, Angriffsflächen zu identifizieren und gezielt zu versuchen, sie auszunutzen. Damit steigen die Anforderungen an die „Harness“ genannten Test-Umgebungen, die Zugriffe, Netzwerkpfade und Berechtigungen zwischen Modell und Zielsystem strikt begrenzen sollen.
Die beschriebenen Vorfälle folgen dabei keinem einzelnen „Sandbox-escape“-Mechanismus im Sinne eines durchgängig kompromittierenden Angriffs, sondern eher dem, was in der Praxis als Konfigurations- bzw. Harness-Fehler auftaucht: Eine Isolationseinrichtung kann unvollständig bleiben, sodass das Modell die vorgesehenen Grenzen nicht einhält. In der Darstellung, die Irregular später aufgegriffen hat, handelt es sich genau um solche Probleme, nicht um unabhängige „Escape“-Vorfälle oder um böswillige Angriffe durch die Modelle selbst. Unabhängig von der konkreten Ursache ist die Konsequenz klar: Wenn ein Test mehrere Tage laufen kann und das System in dieser Zeit selbstständig nach Lösungen sucht, reicht schon ein kleiner Konfigurationsfehler, damit die Prüfung den Charakter einer realitätsnahen Attack Campaign annimmt – und nicht mehr kontrolliert ist.
Irregulars Aufstieg hängt mit dieser Lücke zwischen Anspruch und Realität zusammen. Das Startup wurde 2023 von Dan Lahav (CEO) und Omer Nevo (CTO) gegründet. Beide kommen aus Elite-Tech-Einheiten Israels und haben außerdem einen Hintergrund, der nicht „nur“ technisches Handwerk, sondern auch Argumentations- und Streitkompetenz betont. Statt ein klassisches Security-Produkt zu bauen, positioniert sich Irregular als Applied AI Security Lab und versucht, Test-Setups so weit aufzubauen, dass sie auch realistische Gegenangriffe widerspiegeln. Dazu gehören kontrollierte Red-Teaming-ähnliche Szenarien, bei denen KI-Systeme unter Einschränkungen handeln sollen, während Teams gleichzeitig Mechanismen entwickeln, um Verhalten zu begrenzen und nachzuvollziehen.
Markt- und Investorenperspektive erklären, warum gerade Irregular so schnell sichtbar wurde. Berichten zufolge sicherte sich das Unternehmen in zwei schnellen Runden im Jahr 2025 rund 80 Millionen US-Dollar, unter anderem angeführt von Sequoia und Redpoint, zusätzlich begleitet von weiteren Investoren. Gleichzeitig kam es offenbar zu größeren Verträgen mit KI-Laboren und zu einer positiven Ergebnisentwicklung im Jahr 2025. Das passt zum Trend, dass AI-Security-Teams derzeit nicht nur „Modelle testen“, sondern zunehmend komplette Testketten als Infrastruktur begreifen: Dazu zählen Zielsimulationen, Logging, Netzwerkisolierung und die Auswertung, ob das Modell Grenzen eingehalten hat.
Für Unternehmen und Entwickler ergibt sich daraus eine neue Prioritätenliste. Wer KI-Agenten produktiv einsetzen will – etwa für Support-Automatisierung, Software-Entwicklung oder operative Workflows – muss prüfen, ob Tests die richtigen Grenzen abbilden. Entscheidend ist dabei nicht nur, ob ein Modell in einem Lab „zufällig“ korrekt bleibt, sondern ob es in langen, realitätsnahen Kampagnen die Differenz zwischen simulierten Zielen und echten Systemen erkennt und respektiert. Die geschilderten Ereignisse zeigen zudem, dass die Sicherheitsdisziplin im Zeitalter autonomer KI nicht mit dem Schutz traditioneller Netzwerke gleichzusetzen ist: Es geht um die Kontrolle von Entscheidungen und Handlungen, nicht nur um die Absicherung von Datenpfaden.
Schließlich bleibt die Industriefrage offen, wie schnell sich Prüfstandards in der Breite anpassen lassen. Die drei großen KI-Anbieter, die Vorfälle im Zusammenhang mit Irregular berichtet haben, kündigten bislang keine einheitliche strukturelle Änderung an; gleichzeitig wurde in einem Fall die Veröffentlichung einer gemeinsamen Analyse angedeutet. Für Irregular bedeutet das: Die Vorfälle sind Risiko und Chance zugleich. Als junger Anbieter kann ein prominenter Kontroversenfall zum Bremsklotz werden – andererseits macht er die zentrale Lücke sichtbar, die das Unternehmen adressieren will: belastbare, echte Ende-zu-Ende-Sicherheitskontrollen für KI-Modelle, die schneller leistungsfähig werden als viele Organisationen ihre Testfähigkeit nachziehen können.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Irregulars KI-Sicherheits-Lab gerät nach Sandbox-Vorfällen in den Fokus" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Irregulars KI-Sicherheits-Lab gerät nach Sandbox-Vorfällen in den Fokus" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Irregulars KI-Sicherheits-Lab gerät nach Sandbox-Vorfällen in den Fokus« bei Google Deutschland suchen, bei Bing oder Google News!