LONDON (IT BOLTWISE) – In Deutschland fehlt bei vielen Unternehmen noch ein klarer Sicherheitsrahmen für KI-spezifische Vorfälle. Laut einer Forsa-Umfrage im Auftrag des BSI und des TÜV-Verbands haben nur 11 Prozent der befragten Firmen bereits Prozesse für solche Fälle etabliert. 25 Prozent verfügen dafür sogar über keinerlei entsprechende Regeln. Gleichzeitig setzen 49 Prozent der Betriebe bereits KI ein und erleben dabei offenbar auch Risiken, denn 17 Prozent berichten von KI-gestützten Angriffen.
Die Umfrage zeigt weniger ein Versagen einzelner Teams als ein strukturelles Muster: Sicherheitsteams in vielen Unternehmen arbeiten zwar mit etablierten IT-Routinen, aber KI-spezifische Vorfälle bekommen häufig keine eigene Prozessschiene. Nur 11 Prozent der 505 befragten Unternehmen, die im Juli an der Forsa-Erhebung teilnahmen, gaben an, bereits spezielle Vorkehrungen für Künstliche-Intelligenz-bezogene Sicherheitsvorfälle etabliert zu haben. 43 Prozent nutzen zwar allgemeine IT-Sicherheitsprozesse, jedoch ohne spezifische KI-Regeln, und bei 25 Prozent existieren nach Angaben der Verantwortlichen gar keine entsprechenden Regelungen. Für die Praxis bedeutet das: Wenn ein Angriff über Prompt-Manipulation, missbräuchliche Generierung von Schadcode oder das Ausnutzen von Datenpipelines läuft, fehlt oft ein vordefinierter Pfad für Bewertung, Eindämmung und Wiederherstellung.
Die Studie ordnet diese Lücke zudem im Kontext der KI-Adoption ein. Bereits 49 Prozent der Betriebe setzen laut Umfrage KI ein, weitere 9 Prozent planen einen KI-Einsatz innerhalb der nächsten zwölf Monate. Gleichzeitig nennen 42 Prozent der Unternehmen, sie nutzten KI derzeit nicht und planten dies auch nicht. Unter den Skeptikern treten Datenschutz- und Sicherheitsbedenken besonders prominent auf: Mehr als die Hälfte, nämlich 53 Prozent, nennen genau diese Punkte als Grund. Dass sich diese Haltung nicht automatisch in Sicherheitsreife übersetzt, ist ein wichtiges Signal für die kommenden Monate, denn bei steigender Modellnutzung wachsen auch Angriffsflächen, etwa durch mehr Datenflüsse, mehr externe Dienste und neue Arten von Eingaben, die Sicherheitsmechanismen nicht automatisch mitdenken.
Technisch betrachtet ist der Unterschied zwischen „allgemeiner IT-Sicherheit“ und „KI-Sicherheitsprozessen“ nicht nur organisatorisch, sondern betrifft die Art, wie Risiken entstehen und wie man sie erkennt. Allgemeine Kontrollen greifen häufig dort gut, wo klare Indikatoren wie bekannte Malware-Signaturen oder klassische Zugriffsanomalien vorliegen. Bei KI-gestützten Angriffsformen können hingegen andere Spuren dominieren: Inhalt wirkt plausibel, die schädliche Wirkung entsteht erst im Zusammenspiel von Modell, Kontext, Tools und nachgelagerten Systemen. Im Erhebungsbild wird das auch indirekt sichtbar: 17 Prozent der Betriebe berichten im Zuge der Umfrage von KI-gestützten Angriffen. Die Verantwortlichen weisen zudem auf eine Dunkelziffer hin, weil die Nutzung von KI bei einem Cyberangriff nicht immer eindeutig erkennbar ist. Damit wird das Problem der Nachvollziehbarkeit in der Incident-Response zentral: Ohne KI-spezifische Logik in der Erkennung und ohne definierte Test- und Analysepfade bleibt es oft beim Verdacht statt bei einer belastbaren Einstufung.
Besonders aufschlussreich sind die Details zum KI-Einsatz in den befragten Unternehmen. Bei denjenigen, die KI verwenden, gaben die meisten 96 Prozent an, damit Texte, Bilder oder Code zu erstellen. Das ist für die Angriffsfläche relevant, weil genau diese Workflows häufig direkt in Prozesse einfließen: erzeugte Texte gehen in Kommunikation, erzeugte Bilder in Marketingmaterial, erzeugter Code in Entwicklungs- und Build-Pipelines. Weniger als jedes dritte Unternehmen, nämlich 31 Prozent, nutzt KI zur Verbesserung der IT-Sicherheit. In jedem vierten Unternehmen (25 Prozent) wird KI zudem zur Automatisierung von Abläufen eingesetzt, etwa um Rechnungen zu erstellen oder Chatbots im Kundenservice zu betreiben. Für die Governance heißt das: Wo KI ohnehin operativ eingesetzt wird, entscheidet sich die Qualität der Schutzmaßnahmen daran, ob Verantwortlichkeiten für Daten, Modelle, Prompts und Ausgaben klar zugeordnet sind und ob die Teams im Ernstfall wissen, welche Systeme zuerst gestoppt, welche Beweise gesichert und wie Ergebnisse auditiert werden müssen.
Als strategische Einordnung nennt der BSI-Vizepräsident Thomas Caspers, Künstliche Intelligenz sei nicht nur eine weitere technologische Neuerung, sondern führe zu „operativen und strategischen Veränderungen“. Im Kern geht es laut den Aussagen darum, dass Unternehmen das Potenzial bisher nicht voll ausschöpfen, während gleichzeitig Abhängigkeiten entstehen. Für Europa benennt Caspers ausdrücklich das Ziel, die Abhängigkeit von chinesischen und US-amerikanischen KI-Unternehmen zu reduzieren. Dafür sei es wichtig, die für Europa „wirklich relevanten Anwendungsbereiche“ zu identifizieren, um dann mit europäischen Modellen erfolgreich zu sein – auch „auf Augenhöhe“ mit Entwicklern in den USA und China. Diese Perspektive ist zugleich ein Markt- und Architekturthema: Je stärker sich die Modelllandschaft segmentiert, desto wichtiger wird eine Portabilität der KI-Komponenten, etwa bei Modell- und Daten-APIs, beim Wechsel von Anbietern und bei der Reproduktion von Ergebnissen in Audits.
Auch Fragen der Verantwortlichkeit rücken in den Vordergrund. TÜV-Verbandspräsident Dirk Stenkamp berichtet über eine verbreitete Unsicherheit, wer im Schadensfall haftet, wenn KI eingesetzt wird: ob der Anbieter der KI verantwortlich ist oder ob das Unternehmen selbst haftet, das sie betreibt. Dass viele Firmen nicht das Expertenniveau aufbauen könnten, um die Sicherheit von KI-Modellen beurteilen zu können, führt er als Begründung an. Daraus ergibt sich für die IT- und Compliance-Praxis eine pragmatische Schlussfolgerung: Ohne technische Prüfmethoden, dokumentierbare Sicherheitsanforderungen und wiederholbare Bewertungsprozesse wird Haftungsfragen nur schwer belastbar begegnet. Gleichzeitig adressiert die Diskussion einen konkreten Wunsch nach „Grundschutz“: Eine Art von Mindestanforderungen kann helfen, wenigstens die strukturellen Basiselemente wie Risikoidentifikation, Prozesskontrolle und Nachweisführung zu vereinheitlichen.
Für Unternehmen folgt daraus ein klarer Handlungsdruck, auch wenn die Umfrage Zahlen liefert, die auf den ersten Blick ernüchternd wirken. Wenn 25 Prozent keine Regeln für KI-bezogene Vorfälle haben, ist das nicht allein ein Risiko für einzelne Projekte, sondern für die gesamte Betriebsorganisation. Sinnvoll ist daher, KI-Sicherheitsprozesse schrittweise an die bestehenden Sicherheitsprozesse anzudocken: etwa indem man KI-Workflows inventarisiert, konkrete Use-Cases mit ihren Datenflüssen und Ausgabepfaden erfasst und darauf aufbauend Incident-Playbooks definiert. Ebenso wichtig ist, aus der reinen Adoptionsquote herauszugehen: Die Tatsache, dass 31 Prozent KI zur IT-Sicherheitsverbesserung einsetzen, zeigt zwar Bewegung, aber sie ist noch nicht die Breite, die man bei einer wachsenden Zahl von KI-gestützten Angriffswellen erwarten würde. Wer hier früh auf Kompetenz, Transparenz und messbare Schutzmechanismen setzt, kann KI-Entwicklung und -Betrieb nicht nur schneller skalieren, sondern auch belastbarer absichern.
Aus industriepolitischer Sicht ergänzt sich das Bild: Europa will nicht nur effizienter werden, sondern Abhängigkeiten reduzieren und die eigenen Modell-Ökosysteme stärken. Damit nimmt die Bedeutung von Standards, Prüfverfahren und interoperablen Schutzmechanismen zu, weil unterschiedliche Modellanbieter sonst zu unterschiedlichen Risikoprofilen führen. Gleichzeitig dürfte die Dunkelziffer bei KI-gestützten Angriffen dazu führen, dass Sicherheitsorganisationen künftig stärker auf Indikatoren und Telemetrie setzen müssen, die KI-Nutzung im Incident-Kontext sichtbar machen. Für IT-Leiter bedeutet das: KI-Sicherheit wird vom „Add-on“ zum festen Bestandteil der operativen Sicherheitsarchitektur – und zwar unabhängig davon, ob ein Unternehmen KI intern entwickelt oder als Dienst bezieht.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "BSI-Umfrage: Kaum Unternehmen mit KI-Sicherheitsprozessen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "BSI-Umfrage: Kaum Unternehmen mit KI-Sicherheitsprozessen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »BSI-Umfrage: Kaum Unternehmen mit KI-Sicherheitsprozessen« bei Google Deutschland suchen, bei Bing oder Google News!