Verantwortungsvoller Umgang mit KI in Unternehmen: Herausforderungen und Chancen

LONDON (IT BOLTWISE) – Die Einführung der NIS2-Richtlinie stellt Unternehmen vor neue Herausforderungen in der Cybersicherheit, insbesondere im Umgang mit Künstlicher Intelligenz (KI).

Die Umsetzung der NIS2-Richtlinie in nationales Recht wird die Anforderungen an die Cybersicherheit für viele Unternehmen, insbesondere in kritischen Sektoren wie Energie, Gesundheit oder digitale Infrastruktur, erheblich erhöhen. Diese Richtlinie verlangt von Unternehmen, ein umfassendes Risikomanagement zu etablieren, das technische und organisatorische Schutzmaßnahmen umfasst. Der Einsatz von Cloud-basierten KI-Tools birgt Risiken wie Sicherheitslücken durch Prompt Injections oder Data Leakage sowie Lieferkettenrisiken. Daher muss der Einsatz von KI systematisch in das Sicherheitskonzept eines Unternehmens eingebettet werden.

Die Unternehmensleitung trägt eine besondere Verantwortung, da sie gemäß § 91 Abs. 2 AktG beziehungsweise § 43 GmbHG verpflichtet ist, Risiken zu erkennen und geeignete Präventionsmaßnahmen zu ergreifen. Dazu gehören auch Sorgfaltspflichten bei der Auswahl und Einführung von KI-Systemen sowie Überwachungs-, Organisations- und Dokumentationspflichten gegenüber Mitarbeitenden und zur Systemnutzung. Untätigkeit kann zu persönlicher Haftung führen, im Extremfall drohen Bußgelder wegen Aufsichtspflichtverletzung (§ 130 OWiG). Ein unkontrollierter KI-Einsatz kann somit schnell zur Haftungsfalle werden.

Eine Studie zur Nutzung von KI in Unternehmen zeigt, dass in gut jedem vierten Unternehmen KI für jeden Mitarbeitenden vollkommen frei nutzbar ist. Lediglich gut 15 Prozent der Studienteilnehmer beschränken die tatsächliche KI-Nutzung auf ausgewiesene KI-Projekte. Dazwischen liegen verschiedene Stufen der Sperrung des KI-Zugangs beziehungsweise der Arbeit mit vorgeschriebenen KI-Tools. Bei den Gründen für Limitierungen rangieren die IT-Sicherheit, rechtliche Risiken sowie Anforderungen an die Datensicherheit beziehungsweise an den Datenschutz auf den vorderen Rängen. Bei den Studienteilnehmern aus dem Top-Management liegen die rechtlichen Risiken klar auf dem ersten Platz.

Für einen sicheren und rechtskonformen Umgang mit KI empfiehlt sich ein strukturiertes Vorgehen. Unternehmen sollten eine klare Governance für die Auswahl, Nutzung und Kontrolle von KI-Systemen etablieren. Datenschutz und IT-Sicherheit sollten frühzeitig integriert werden, indem die entsprechenden Fachabteilungen eingebunden werden. Diese Maßnahmen helfen, die Risiken zu minimieren und die Vorteile der KI-Technologie sicher zu nutzen.

Die Herausforderungen, die mit der Integration von KI in Unternehmensprozesse verbunden sind, bieten auch Chancen. Unternehmen, die es schaffen, KI sicher und verantwortungsvoll zu nutzen, können Wettbewerbsvorteile erzielen und ihre Effizienz steigern. Die richtige Balance zwischen Innovation und Sicherheit zu finden, ist entscheidend, um die Potenziale der Künstlichen Intelligenz voll auszuschöpfen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!