STRASSBURG / LONDON (IT BOLTWISE) – In ihrer Rede zur Lage der Union fordert EU-Kommissionschefin Ursula von der Leyen einen bremsenden Umgang mit KI-Risiken. Sie verwies auf mögliche Hacking-Szenarien und auf selbstrekursive KI-Modelle, deren Tempo nach Meinung der Unternehmensspitzen gedrosselt werden müsse. Gleichzeitig kündigte sie neue Social-Media-Regeln für Kinder an: kein Social Media unter 13 und keine persönlichen Accounts unter 15. Für 13 bis 15 Jahre sollen altersangepasste, von Eltern überwachte Nutzungsmodelle gelten.
Ursula von der Leyen hat in Straßburg deutlich gemacht, dass die EU bei KI nicht nur „mehr“ will, sondern auch „anders“: Ein Teil der politischen Agenda zielt auf technische Wachstumsbremsen, bevor die Systeme in der Praxis unkontrollierbar werden. Ihre Argumentation setzt bei der Unsicherheit an, die entsteht, wenn leistungsfähige KI-Modelle schneller vorankommen als Sicherheitspraktiken, Red-Teaming und Systemtests. Damit verschiebt sich der Fokus von reiner Innovationspolitik hin zu Risikomanagement als eigenem Produktivitätsfaktor: Unternehmen sollen KI nutzen, ohne dabei die Schadenspotenziale aus den Augen zu verlieren.
Konkret problematisierte von der Leyen die Kombination aus Skalierung und Missbrauch: Modelle, die heute entwickelt werden, könnten künftig Hacking auf einem Niveau ermöglichen, das sich viele bisher nicht zutrauten. In diesem Rahmen sprach sie auch an, dass solche Fähigkeiten nicht „in der eigenen Nachbarschaft“ bleiben, sondern Gegnern zugehen könnten, die andere Ziele verfolgen. Das ist mehr als Rhetorik, denn für die KI-Praxis bedeutet genau diese Dynamik, dass Bedrohungsmodelle und Sicherheitsanforderungen schon während der Trainings- und Deployment-Phase mitlaufen müssen – vom Zugriffsschutz über die Prompt- und Tool-Nutzung bis zur Überwachung von KI-Agenten im Betrieb.
Besonders aufmerksamkeitsstark war die Passage zu KI-Agenten, die aus ihrer Umgebung ausbrechen könnten. Gerade bei Agentensystemen entsteht ein strukturelles Risiko: Wenn ein Modell nicht nur Antworten liefert, sondern Arbeitsabläufe plant, Werkzeuge aufruft und dabei durch Umgebungsdaten „lernt“, steigt die Angriffsfläche für unerwartetes Verhalten. Von der Leyen griff zudem die Warnung auf, das Tempo bei der Entwicklung selbstrekursiver Modelle zu drosseln. Die Logik dahinter ist nachvollziehbar: Selbstrekursion und geschlossene Wirkungsschleifen können die Grenze zwischen kontrolliertem Experiment und schwer prognostizierbarem System deutlich schneller überschreiten, als es klassische Softwaretests abbilden.
In den technischen Kernbereich schlug die Rede dann über einen „europäischen Weg“ der KI ein, der Menschen nicht ersetzt, sondern unterstützt. Das Beispiel Medizin diente ihr als Kontrastfolie: Ärztinnen und Ärzte sollen direkten Zugriff auf die relevanten Daten erhalten, um bestmögliche Diagnosen und Behandlungen zu ermöglichen – aber eben nicht so, dass ein KI-gestützter Roboter die Entscheidung über Krebsdiagnosen „autorisiert“. Diese Abgrenzung lässt sich als Leitplanke für Governance lesen: Entscheidungsunterstützung soll erklärbar bleiben, Verantwortung muss beim Menschen liegen, und Systeme müssen in klinischen Arbeitsabläufen so integriert werden, dass sie Risiken reduzieren statt neue Abhängigkeiten zu schaffen.
Neben dem Sicherheits- und Ethikteil benannte von der Leyen mehrere Einsatzfelder als Prioritäten: Gesundheit, Verkehr, Landwirtschaft und Lebensmittel, Spitzenfertigung sowie Verteidigung und Weltraum. Gleichzeitig machte sie klar, dass dafür die Rechenkapazität „massiv“ gesteigert werden müsse. In der Praxis heißt das: Europa steht damit vor der bekannten Engstelle aus Compute, Energie und Lieferketten für Chips, Datacenter-Infrastruktur und Netzwerk. Wenn der politische Wunsch nach mehr KI-Anwendungen kommt, steigt der Druck auf eine KI-Infrastruktur, die nicht nur Kapazitäten bereitstellt, sondern auch Betriebssicherheit, Laststeuerung und Monitoring umfasst – damit Leistungssteigerungen nicht automatisch zu mehr Risiko in der Produktionsumgebung führen.
Am Ende wechselte die Rede sichtbar in den Bereich Nutzerrechte und Schutz von Minderjährigen. Von der Leyen kündigte ein Social-Media-Verbot für Kinder unter 13 an und sagte auch: „Keinen persönlichen Account unter 15 Jahren“. Für die 13- bis 15-Jährigen soll es demnach altersangepasste Accounts geben, die von Eltern eingerichtet und überwacht werden; für Jugendliche zwischen 15 und 18 soll für Plattformen eine Verpflichtung gelten, das Design sicher zu gestalten. Wichtig ist dabei weniger die einzelne Altersgrenze als das Zusammenspiel aus Zugriffsmechanik, Verantwortungskette und Nutzungsdauer – also konkrete Produktentscheidungen bei Interfaces, Empfehlungen und Zugriffsschutz.
Dass sie das Thema als persönliches Anliegen rahmte, passt in ihr Gesamtbild: Big-Tech-Macht sei zwar „überwältigend“, aber es müsse möglich sein, Funktionen zu vermeiden, die aus Nutzersicht süchtig machen. Auch ihre Formulierung „Es geht darum, wann und wie wir es Social Media erlauben, Zugang zu unseren Kindern zu haben“ zeigt den politischen Anspruch, nicht nur Inhalte, sondern vor allem die Nutzungsumstände zu regulieren. Für Betreiber und Entwickler bedeutet das, dass Safety-by-Design nicht erst im Moderationsprozess beginnt, sondern bei Account-Erstellung, Empfehlungssystemen, Zeitlimits und Nutzungslogik. Unterm Strich verbindet die Rede damit drei Ebenen: KI-Risikobremse auf Systemebene, Verantwortung bei Entscheidungen im Hochrisikobereich und Schutzmechanismen für Minderjährige direkt in den Produktarchitekturen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "EU-Zukunftsrede: Von der Leyen bremst KI-Risiken und kündigt Kinder-Social-Media-Regeln an" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "EU-Zukunftsrede: Von der Leyen bremst KI-Risiken und kündigt Kinder-Social-Media-Regeln an" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »EU-Zukunftsrede: Von der Leyen bremst KI-Risiken und kündigt Kinder-Social-Media-Regeln an« bei Google Deutschland suchen, bei Bing oder Google News!