LONDON (IT BOLTWISE) – Safeworld tritt aus dem Stealth-Modus hervor und will die Sicherheit von humanoiden KI-Robotern messbar machen. Das Startup erhält eine Seed-Finanzierung von mehr als 12 Millionen US-Dollar, um ein Simulationsverfahren für realitätsnahe Gefahrenszenarien aufzubauen. Im Zentrum steht eine KI-gestützte, probabilistische Bewertung mit einer Vielzahl modellierter menschlicher Verhaltensweisen. Für Robotik-Teams bedeutet das: Sicherheitschecks sollen nicht erst nach dem Rollout beginnen, sondern vor der Auslieferung im Modell stattfinden.
Humanoide Roboter und KI-Agenten werden immer stärker in die Nähe von Menschen gebracht, doch genau dort wird die Sicherheitsfrage besonders schwer. Die neue Welle übergibt „Schlüssel“ zunehmend an generative KI, während sich klassische Software-Logik oft noch deterministisch testen lässt. Bei probabilistischen Systemen ist das Ergebnis nicht nur schwer vorherzusagen, sondern auch schwer in die gleiche Argumentationslogik zu übersetzen, mit der sich bisher Sicherheitsnachweise für traditionelle Steuerungsalgorithmen aufbauen ließen. Safeworld positioniert sich genau an dieser Schnittstelle: nicht als reines „Testen im Feld“, sondern als Versuch, Sicherheitsrisiken in einer Simulation unter kontrollierten Bedingungen systematisch zu bewerten und in eine wiederholbare Sicherheits-Story zu überführen.
Das Unternehmen entsteht rund um die Safe-AI-Arbeiten von Dr. Ding Zhao, der das Safe AI Lab an der Carnegie Mellon University leitet. Laut dem vorliegenden Bericht gründet er Safeworld gemeinsam mit dem Startup-Veteranen Kyle Wong und dem Machine-Learning-Ingenieur Simo Rachidi. Der Kern des Problems wird dabei mit einem zweistufigen Rahmen beschrieben: „The safety challenge that we’re talking about is a combination of, one, really advanced generative AI probabilistic evals – how do you underwrite the risk of a probabilistic system?“ Zhao setzt also bei der Frage an, wie man Risiko unter Unsicherheit „unterwrites“, statt nur auf Korrektheit in einem engen Eingaberaum zu schauen. Die zweite Hürde folgt unmittelbar: „The second part that’s really hard is the trust part, and you need both to deploy a robot.“ Damit schwingt auch die Erwartung mit, dass Sicherheit nicht nur technisch, sondern in Form eines nachvollziehbaren Nachweises für Stakeholder „vermittelbar“ wird.
Finanziert wird der Aufbau offenbar zügig: Safeworld kommt aus dem Stealth-Modus mit einer Seed-Runde von mehr als 12 Millionen US-Dollar. Laut Angaben wird die Runde von Shine Capital und a16z Speedrun angeführt, mit weiteren Investitionen unter anderem von Box Group, dem Endowment der Carnegie Mellon University sowie Innovation Endeavors und SV Angel. Strategisch passt das Timing zur industriellen Lage, in der Robotik-Bauer und Betreiber ihre Systeme zunehmend in Produktion, Logistik und zunehmend auch in semi-öffentliche Umgebungen integrieren. Die Aussage eines a16z-Speedrun-Partners wird dabei sinngemäß auf den Punkt gebracht: Eine Sicherheits-Industrienorm müsse entstehen, solange Roboter gerade entworfen und bereitgestellt werden, statt erst dann zu reagieren, wenn es zu Vorfällen in Haushalten gekommen ist. Für Unternehmen heißt das: Wer Sicherheitsnachweise früh strukturiert, reduziert nicht nur technische Risiken, sondern auch den Zeit- und Abstimmungsaufwand, der später bei Zulassung, Betriebsfreigaben und Haftungsdiskussionen entsteht.
Technisch beschreibt Safeworld seinen Ansatz als Validierung eines Robotik-Steuerungssystems in einer Simulation, die mit realistischen menschlichen Modellen bevölkert wird. Die Analogie zu autonomer Fahrzeugtechnik ist dabei nicht zufällig: Wie Tesla oder Wayve im Straßenverkehr auf überraschende Situationen reagieren müssen, sollen Roboter im Werk- oder Bauumfeld ebenfalls angemessen reagieren. Zhao macht allerdings eine zusätzliche Schwierigkeit aus: Roboter arbeiten in unstrukturierten Umgebungen und jeder Standort kann eigene Sicherheitsstandards mitbringen. Ein konkretes Beispiel aus der industriellen Praxis liefert Wong: „One of the most common areas is if there is a blind corner in this particular factory. What is the speed or what is the stopping distance that you need to make sure that this robot will not collide with a particular human? If a human is carrying boxes, for example, will the robot detect the human or not?“ Safeworld übersetzt solche Fragen in digitale Varianten, etwa indem eine Ecke eines Werks digital nachgebildet wird, dann ein Simulationslauf das zu testende Robotersystem über dessen reale Software ansteuert und anschließend tausende Szenarien gefahren werden, in denen Menschen auf unterschiedliche Weise mit dem Roboter interagieren. Wong nennt auch einen typischen „Edge Case“, der im Feld kaum wiederholbar ist: „Tripping and falling is also a good example of something that we do a lot of testing with the simulation. Otherwise, you would have to go and trip and fall for the robot, which is like a hard thing to be doing all the time.“
Gleichzeitig betont die Plattform-Philosophie eine Lücke, die aus der Perspektive der Robotik-Teams besonders schmerzhaft ist: formale Beweise sind für viele Systeme in der Praxis kaum zu liefern. Vishal Dugar, CTO von Gritt Robotics, arbeitet an KI-gestützter „AI brain“-Logik für Roboter, die bislang bei der Montage von Photovoltaik-Modulen auf industriellen Solarparks helfen und perspektivisch komplexere Bauaufgaben übernehmen sollen. Er formuliert den Unterschied zwischen mathematischer Verifikation und empirischer Absicherung sehr direkt: „The difficulty with most of our systems is it’s very hard to formally prove it by doing some math, writing some equations, and saying yeah, the system is verified to be safe. It necessarily has to be done empirically.“ In der Partnerschaft mit Safeworld geht es folglich darum, Sicherheitsargumente über Simulationen zu operationalisieren, weil reale Beweise nur eingeschränkt skalieren. Dugar führt aus, warum das so anspruchsvoll bleibt: „Humans have many kinds of appearances. Their bodies can be in different configurations. They could be kneeling, standing. They could be tripping and falling potentially. They could be crouching. They could be running.“ Dazu kommen Variationen bei Kleidung, Körpermaßen, Hauttönen und weiteren Parametern. Für Safety-Engineering bedeutet das: Die Validierung muss nicht nur „Szenarien“ zählen, sondern realistische Variationsräume abdecken, in denen Wahrnehmung und Reaktion des Roboters unter unterschiedlichen Bedingungen getestet werden.
Safeworld steht damit erst am Anfang, auch beim eigenen Produktmodell. Das Unternehmen arbeitet noch daran, was am besten funktioniert: eine Plattform, die externen Nutzern zugänglich gemacht wird, oder ein services-basiertes Vorgehen, bei dem Safeworld Sicherheitsläufe und -auswertungen für Robotikhersteller übernimmt. Der gemeinsame Nenner ist jedoch klar: Risiko soll frühzeitig ausgetestet werden, wenn sich die Systemarchitektur noch verändern lässt. Zhaos selbstbewusster Zeitplan zielt dabei auf Marktpositionierung ab: „We’ll probably be the first profitable company in this field. Because if anyone wants to deploy, they need to pay us to handle the situation.“ Für die Branche ergibt sich daraus ein realistischer Trend: Sicherheitsfähigkeit wird zunehmend zu einem Betriebsbestandteil, der Ressourcen bindet und damit wirtschaftlich einkalkuliert werden muss. Wenn Safeworld sein Simulations- und Bewertungsansatz nachweislich skaliert, könnte das die Debatte über KI-Sicherheit in der Robotik weg von reinen Demo-Stories hin zu überprüfbaren Sicherheitsfällen verlagern.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Safeworld: Seed-Runde für KI-Roboter-Sicherheit per Simulation" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Safeworld: Seed-Runde für KI-Roboter-Sicherheit per Simulation" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Safeworld: Seed-Runde für KI-Roboter-Sicherheit per Simulation« bei Google Deutschland suchen, bei Bing oder Google News!