BERLIN / LONDON (IT BOLTWISE) – Claudia Plattner, BSI-Präsidentin, kritisiert große KI-Anbieter für einen zu laxen Umgang mit IT-Sicherheit. Sie fordert wirksame Schutzmaßnahmen gegen unkontrollierte Angriffe durch KI-Systeme und warnt, dass andernfalls auch Haftungsfragen aufkommen könnten. Plattner sagt zudem, dass Selbstverpflichtungen nicht reichen: Regulierung müsse technische Anforderungen abbilden, inklusive Zuständigkeit, Befehlsgrenzen und Prüfstellen. Für die nächsten Monate erwartet sie keine schnelle Entspannung.
Wenn KI-Agenten zunehmend eigenständig handeln, verschiebt sich die IT-Sicherheitsfrage von der klassischen Frage „Ist ein System gepatcht?“ hin zu „Welche Handlungsräume hat das System überhaupt?“ Genau diese Perspektive treibt Claudia Plattner, die Chefin der höchsten deutschen Cybersicherheitsbehörde, in ihrer Kritik an führenden KI-Anbietern voran. Plattner macht dabei vor allem den Punkt fest, dass Sicherheit bei der Entwicklung bislang nicht ernsthaft genug integriert sei. In den Worten der BSI-Präsidentin fehlt aus ihrer Sicht „Engagement und Ernsthaftigkeit“, um Probleme mit KI-Systemen zu verhindern; betroffen sieht sie große Anbieter sowohl aus den USA als auch aus China.
Technisch zielt die Kritik auf mehr als nur die üblichen Bausteine wie sichere Authentifizierung oder das Schließen bekannter Schwachstellen. Bei KI-Agenten entsteht ein Sicherheitsrisiko oft aus der Kombination von Fähigkeiten und Schnittstellen: Ein Modell kann nicht nur Texte generieren, sondern auch Werkzeuge anstoßen, Systeme anfragen oder Aktionen in einer Umgebung ausführen. Damit werden Angriffsflächen vermehrt dort sichtbar, wo KI mit anderen Komponenten verknüpft ist – etwa bei Integrationen in bestehende IT-Landschaften, bei Automatisierungsworkflows oder bei Ausführungsrechten. Plattner fordert deshalb, Angriffe durch KI-Systeme effektiver zu verhindern und adressiert das Problem direkt an der Produktverantwortung: Wenn ein KI-Anbieter „sein Produkt“ verantwortet, müsse er sicherstellen, dass derartige Vorfälle künftig unterbunden werden – andernfalls könnten Haftungsfragen in den Raum rücken.
Für Unternehmen und Entwickler ist das eine heikle Gemengelage, weil Sicherheit bei KI häufig zwischen mehreren Ebenen aufgeteilt wird: Daten, Modell, Plattform, Deployment und Betriebskontrollen. Eine Einschränkung wie „Das KI-System darf nur bestimmte Aktionen ausführen“ lässt sich zwar technisch umsetzen – beispielsweise über regelbasierte Zugriffsbeschränkungen, sand-boxing, rollenbasierte Permissions oder eine streng definierte Policy-Engine. Dennoch reicht ein isolierter Kontrollmechanismus selten aus, wenn die Regeln nicht durchgängig vom Design bis zum Betrieb gelten. Plattner bringt daher eine zweite Ebene ins Spiel: Regulierung müsse über „Selbstverpflichtungen“ hinausgehen und die Regeln explizit an die neue Wirklichkeit autonom handelnder KI-Agenten anpassen. Sie nennt dabei konkrete Leitfragen, die man in einer robusten Governance-Struktur wiederfindet: Was ist die KI, wem gehört sie, wer hat sie beauftragt, und was darf sie?
Gerade diese Fragen zeigen, wie sich Sicherheitsanforderungen von traditionellen IT-Standards ableiten lassen – ohne sie eins zu eins zu kopieren. In der Praxis würde das bedeuten, dass Prüf- und Nachweismechanismen nicht erst bei Vorfällen greifen, sondern schon vor dem produktiven Einsatz. Plattner fordert deshalb zusätzlich eine Stelle, die prüft, ob Regeln eingehalten werden. Dieses „Wer kontrolliert die Kontrolle?“ ist im Sicherheitskontext ein entscheidender Punkt: Während viele Branchen bislang auf freiwillige Prozesse und allgemeine Best Practices setzen, braucht es bei Systemen mit potenziell weitreichendem Wirkungsradius überprüfbare Kriterien. Als Bezugspunkt bieten sich etablierte Risikomanagement- und Sicherheitsrahmenwerke an, etwa aus dem Bereich IT-Sicherheitsmanagement wie ISO 27001 oder aus der KI-Risikogovernance wie dem NIST-Umfeld – entscheidend ist aber die konkrete Übersetzung auf KI-Agenten, also auf Systeme, die nicht nur beraten, sondern handeln.
Marktseitig ist die Dimension nicht klein: Plattner stellt die Kritik ausdrücklich nicht auf einzelne Unternehmen ab, sondern auf die großen Anbieter insgesamt – und zwar getrennt nach Regionen, weil die Entwicklungs- und Marktdynamik global ist. Gleichzeitig macht sie klar, dass politische Standardinstrumente allein nicht ausreichen. Hintergrund ist die aktuelle Lage, in der Sicherheitsvorfälle rund um KI-Agenten bekanntwerden, und zwar offenbar mit einer Geschwindigkeit, die klassische Reaktionszyklen überfordert. Auch wenn der Artikel keine Zeitpläne nennt, formuliert Plattner dennoch eine klare Erwartung: Mit einem raschen Abflauen der Probleme rechnet sie nicht; „unruhige Zeiten“ stünden bevor. Für Organisationen heißt das, dass Sicherheitsverantwortliche KI-Projekte nicht nur als Innovations- oder Experimentierfelder sehen sollten, sondern als laufende Risiko- und Betriebsdisziplin.
Für die Umsetzung in Unternehmen folgt daraus vor allem eines: Wer KI-Agenten produktiv nutzt, braucht überprüfbare Prozesse rund um Zweckbindung, Rechte und Nachvollziehbarkeit. Das kann von technischen Maßnahmen wie Zugriffskontrollen und Ausführungsbegrenzungen über operative Kontrollen wie Monitoring, Incident-Response-Prozeduren und Revisionspfade bis hin zu organisatorischen Klärungen reichen – etwa wer die KI beauftragt, wer die Verantwortlichkeiten für Betrieb und Weiterentwicklung trägt und welche Freigabeschritte vor Deployment zwingend sind. In der Übergangsphase, in der Regulierung erst detailliert werden muss, dürfte genau diese Kombination aus technischer Kontrolle und Governance-Transparenz den größten Unterschied machen. Denn Plattners Kernforderung—Regeln technisch fundiert anpassen und ihre Einhaltung prüfen – trifft genau den Bereich, in dem KI-Systeme heute im Alltag am stärksten „aus dem Tritt“ geraten können: dort, wo Autonomie, Schnittstellen und mangelnde Grenzen zusammenkommen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "BSI-Chefin kritisiert laxen KI-Umgang bei IT-Sicherheit und fordert Regeln" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "BSI-Chefin kritisiert laxen KI-Umgang bei IT-Sicherheit und fordert Regeln" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »BSI-Chefin kritisiert laxen KI-Umgang bei IT-Sicherheit und fordert Regeln« bei Google Deutschland suchen, bei Bing oder Google News!