SAN FRANCISCO / LONDON (IT BOLTWISE) – Eine neue Bewertung zeigt, wie öffentlich zugängliche KI-Modelle Programme erzeugen können, die günstige Drohnen steuern und eine Person per Gesichtserkennung verfolgen. Im Fokus steht dabei eine von Andon Labs entwickelte Benchmark, die die Fähigkeit solcher Systeme testet, Aufgaben ohne menschliche Eingriffe auszuführen. Die Tests beschreiben einen Flug durch Türen und die Ausweicheffekte bei Hindernissen im Haushalt. Für Unternehmen und Sicherheitsteams wird damit die Debatte um KI-Missbrauch konkreter und zugleich messbarer.
Die entscheidende Verschiebung in der aktuellen Debatte um KI-Risiken ist nicht, dass Drohnen grundsätzlich fernsteuerbar sind. Das waren sie mit Consumer-Komponenten und klassischer Software schon lange. Neu ist vielmehr, dass eine Evaluation systematisch vorführt, wie öffentlich verfügbare Künstliche Intelligenz den kompletten Weg von der Anweisung bis zur Steuerlogik schließen kann: Aus KI-generiertem Code entsteht dabei eine Software, die eine billige Drohne so orchestriert, dass sie einen Zielmenschen anhand von Gesichtserkennung im Raum verfolgt. Das liest sich zunächst wie ein Extrembeispiel, ist aber als Testdesign für Sicherheitsanforderungen gedacht, gerade weil solche Ketten aus Fähigkeiten in der Realität zusammenfallen können.
Im beschriebenen Szenario fliegt eine „Low-Cost“-Consumer-Drohne mithilfe KI-geschriebener Programme durch ein Wohnumfeld: Sie gleitet durch Türöffnungen, hält Distanz zu Hindernissen und navigiert an Lampen vorbei, um den „Target“ möglichst kontinuierlich im Blick zu behalten. Entscheidend ist dabei die Kopplung zwischen Wahrnehmung und Bewegung. Gesichtserkennung liefert eine Identifikation beziehungsweise eine Signalquelle, während die Flugsteuerung diese Information in konkrete Flugmanöver übersetzt. Wenn diese Übersetzung durch Code erfolgt, der sich aus KI-Modellen heraus generieren lässt, sinkt die Eintrittshürde: Statt spezialisierten Robotik-Teams wird potenziell nur noch ein KI-Zugriff benötigt, um aus einem Ziel („folge eine Person“) ein lauffähiges System zu bauen.
Als Schlüsselkomponente der Bewertung gilt eine Benchmark von Andon Labs, die gezielt darauf ausgerichtet ist, KI-Systeme bei der Nutzung von Drohnen „ohne menschliche Intervention“ zu messen. Damit ist nicht nur die Frage gemeint, ob ein Modell theoretisch Befehle formulieren kann, sondern ob es in der Praxis die nötigen Schritte hinbekommt: Sensorik und Bildanalyse, geeignete Steuerungsroutinen sowie die Integration in eine Roboter-Umgebung. Die Evaluation adressiert damit ein besonders kritisches Gap in vielen Sicherheitsdiskussionen. Denn selbst wenn KI-Modelle nicht selbst „handeln“, sondern nur Vorschläge oder Code liefern, entsteht ein wirksamer Handlungsträger, sobald die Software in ein physisches System eingebettet wird.
Die Studie/der Bericht stellt dabei öffentlich verfügbare KI-Modelle von Anthropic und OpenAI sowie weitere Anbieter als Ausgangspunkt in den Vordergrund. Genau diese Auswahl ist für die technische Einordnung relevant: Wenn mehrere verschiedene Modellfamilien ähnliche Funktionen beim Code-Generieren ermöglichen, spricht das für eine breitere Fähigkeit innerhalb der Klasse „LLM + Tools + Zielbeschreibung“. Für Sicherheitsverantwortliche heißt das, dass Schutzmaßnahmen nicht nur an einzelnen Produktlinien hängen dürfen. Vielmehr müssen sie an den Integrationspunkten ansetzen: an der Code-Execution-Umgebung, an den Schnittstellen zu Betriebssystemen und an der Möglichkeit, dass generierter Code direkt in Steuerungssoftware für physische Assets überführt wird.
Technisch lässt sich das Risiko als Kette aus drei Komponenten beschreiben. Erstens: Ein Modell kann aus einer Problemstellung konkrete Implementationsschritte ableiten und entsprechende Softwarebausteine erzeugen. Zweitens: Diese Bausteine müssen in einer Umgebung laufen, die Kamerabilder verarbeitet und die Ergebnisse der Gesichtserkennung in Parameter für die Bewegung umsetzt. Drittens: Es braucht eine Flug-/Robotersteuerung, die die berechneten Aktionen zeitnah ausführt, sodass die Drohne ihre Flugbahn anpasst, während sich die Zielperson im Raum bewegt. Gerade das Zusammenspiel der dritten Komponente mit einem „Autonomy“-Anspruch („ohne menschliche Eingriffe“) macht die Benchmark so greifbar, weil die Latenz und die Robustheit gegen reale Hindernisse zum Prüfstein werden.
Für den Markt ist die Konsequenz zweigeteilt. Auf der einen Seite steigen die Möglichkeiten für legitime Anwendungsfälle: Inspektionsdrohnen, Wartung, Katastropheneinsatz oder Logistik könnten von KI-gestützter Code-Generierung profitieren, wenn die Software zuverlässig und sicher in Robotik-Workflows integriert ist. Auf der anderen Seite wird derselbe Mechanismus als Missbrauchspfad sichtbarer. Wenn in Evaluationen gezeigt wird, dass günstige Drohnen mit vergleichsweise standardisierten Komponenten „aus KI-Code heraus“ nutzbar werden, dann verschiebt sich auch der Kosten-/Zugangs-Vorteil. Systeme, die früher „nur“ teuer oder zeitaufwendig waren, könnten schneller gebaut und skaliert werden.
Aus regulatorischer oder rechtlicher Perspektive steckt der Bericht in einem Bereich, der nicht mit einem Urteil gleichzusetzen ist, sondern mit einem Risiko- und Fähigkeiten-Nachweis arbeitet. Eine zentrale Frage bleibt daher: Wie werden solche Benchmarks genutzt, um die Praxis zu ändern – etwa über technische Guardrails, LLM-Policies, Sandbox-Mechanismen für Code-Ausführung oder über strengere Zugriffsmodelle auf Tooling, das Hardware steuern kann? Dass die Benchmark explizit die Autonomie ohne menschliche Intervention in den Mittelpunkt stellt, legt nahe, dass die Messung genau dort ansetzt, wo Schutz bisher oft nur „prozessual“ gedacht war. Unternehmen sollten deshalb prüfen, ob ihre KI-Nutzungsketten so abgesichert sind, dass Codegenerierung nicht automatisch in reale Aktuierung mündet, selbst wenn die Ausgangsbasis „nur“ ein öffentliches Modell ist.
Für die nächsten Monate ist die wahrscheinlichste Wirkung weniger „eine Schlagzeile“, sondern eine Arbeitsagenda: Sicherheits-Teams dürften sich verstärkt mit der Frage beschäftigen, welche Teile einer KI-gestützten Robotik-Pipeline überhaupt austauschbar sind. Besonders relevant ist dabei, ob die Benchmark-Methodik später auf andere Sensorik und andere Aktuierungsarten übertragen wird, weil die Logik der Missbrauchskette generisch ist. Wenn öffentlich zugängliche Modelle ausreichen, um Steuerungslogik zu erzeugen, dann werden Trainingsdaten und Modellarchitektur allein nicht die Antwort sein. Entscheidend wird sein, wie Unternehmen die LLM-Ausgabe kontrollieren, wie sie Ausführung begrenzen, welche Telemetrie sie überwachen und wie schnell sie Fehlverhalten erkennen, bevor es in eine physische Handlung umgesetzt wird.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Benchmark zeigt: KI kann Software für 100-Dollar-Drohnen mit Gesichtserkennung schreiben" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Benchmark zeigt: KI kann Software für 100-Dollar-Drohnen mit Gesichtserkennung schreiben" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Benchmark zeigt: KI kann Software für 100-Dollar-Drohnen mit Gesichtserkennung schreiben« bei Google Deutschland suchen, bei Bing oder Google News!