Schatten-KI: Risiken und Chancen für Unternehmen

LONDON (IT BOLTWISE) – In der heutigen digitalen Welt hat die Künstliche Intelligenz (KI) einen festen Platz in den Arbeitsabläufen vieler Unternehmen eingenommen. Während die Produktivitätsgewinne unbestreitbar sind, birgt die Nutzung von generativer KI auch erhebliche Sicherheitsrisiken. Unternehmen, die diese Technologie erfolgreich integrieren wollen, müssen sich der Herausforderungen bewusst sein und geeignete Maßnahmen ergreifen.

Generative KI, oft als GenAI bezeichnet, hat sich von einem Experimentierfeld für Privatpersonen zu einem festen Bestandteil der Arbeitswelt entwickelt. Unternehmen profitieren von den Produktivitätsgewinnen, die diese Technologie mit sich bringt, stehen jedoch auch vor erheblichen Sicherheitsherausforderungen. Sensible Unternehmensdaten gelangen häufig, ob absichtlich oder versehentlich, in öffentliche KI-Systeme, was IT- und Sicherheitsverantwortliche vor große Herausforderungen stellt.

Ein zentrales Problem besteht darin, dass einmal in ein öffentliches KI-Tool eingegebene proprietäre Daten Teil des Trainingsdatensatzes werden können. Dies bedeutet, dass andere Nutzer möglicherweise auf diese Informationen zugreifen können. Ein bekanntes Beispiel ist ein Vorfall im März 2023, bei dem ein multinationaler Elektronikkonzern erlebte, dass Mitarbeiter vertrauliche Daten, einschließlich Quellcodes, in ChatGPT eingaben. Solche Vorfälle verdeutlichen die Risiken, die mit der Nutzung öffentlicher KI-Anwendungen verbunden sind.

Viele Unternehmen haben darauf reagiert, indem sie den Zugang zu generativen KI-Anwendungen blockierten. Diese Maßnahme sollte verhindern, dass sensible Informationen in unkontrollierte Plattformen gelangen. Allerdings hat sich gezeigt, dass diese Strategie nicht effektiv ist und riskantes Verhalten in den Untergrund treibt. Mitarbeiter finden Wege, die Beschränkungen zu umgehen, indem sie persönliche Geräte nutzen oder Daten an private E-Mail-Konten senden.

Um die Risiken effektiv zu mindern, ist ein strategischer Ansatz erforderlich, der auf Sichtbarkeit, Governance und Mitarbeiterbefähigung basiert. Der erste Schritt besteht darin, ein vollständiges Bild davon zu erhalten, wie KI-Tools innerhalb des Unternehmens genutzt werden. Diese Sichtbarkeit ermöglicht es IT-Verantwortlichen, riskante Verhaltensmuster zu identifizieren und den tatsächlichen Einfluss der Nutzung öffentlicher KI-Anwendungen zu bewerten.

Ein weiterer wichtiger Schritt ist die Entwicklung maßgeschneiderter Richtlinien. Anstatt pauschale Verbote auszusprechen, sollten Unternehmen kontextbezogene Kontrollen implementieren. Beispielsweise könnten Browser-Isolationstechniken eingesetzt werden, die es Mitarbeitern ermöglichen, öffentliche KI-Anwendungen für allgemeine Aufgaben zu nutzen, ohne bestimmte Unternehmensdaten hochladen zu können. Alternativ könnten Mitarbeiter auf genehmigte, unternehmensinterne KI-Plattformen umgeleitet werden, die vergleichbare Funktionen bieten.

Um Missbrauch zu verhindern, sollten Unternehmen robuste Mechanismen zur Verhinderung von Datenverlusten durchsetzen, die Versuche, sensible Informationen mit öffentlichen oder nicht genehmigten KI-Plattformen zu teilen, identifizieren und blockieren. Da versehentliche Offenlegungen eine der Hauptursachen für KI-bezogene Datenverletzungen sind, kann die Echtzeit-Durchsetzung von DLP (Data Loss Prevention) als Sicherheitsnetz dienen und das Schadenspotenzial für das Unternehmen verringern.

Schließlich müssen Mitarbeiter über die inhärenten Risiken der KI und die Richtlinien zu deren Minderung aufgeklärt werden. Schulungen sollten praktische Anleitungen bieten, was sicher mit KI getan werden kann und was nicht, sowie klare Kommunikation über die Konsequenzen der Offenlegung sensibler Daten.

Die Balance zwischen Innovation und Sicherheit zu finden, ist entscheidend. Unternehmen, die sich auf Sichtbarkeit konzentrieren, durchdachte Governance-Richtlinien umsetzen und ihre Mitarbeiter schulen, können eine Balance erreichen, die Innovation fördert und gleichzeitig sensible Daten schützt. Das Ziel sollte nicht sein, zwischen Sicherheit und Produktivität zu wählen, sondern eine Umgebung zu schaffen, in der beides koexistiert.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!