Agentische KI: Sicherheits- und Datenschutzbedenken im Fokus

AUSTIN / MÜNCHEN (IT BOLTWISE) – Auf der SXSW-Konferenz in Austin, Texas, hat Meredith Whittaker, Präsidentin von Signal, eindringlich vor den Risiken gewarnt, die agentische KI für die Privatsphäre der Nutzer mit sich bringen könnte.

Agentische KI, die Aufgaben im Namen der Nutzer ausführt, wird zunehmend als wertvolle Ergänzung für den Alltag vermarktet. Doch Meredith Whittaker, Präsidentin von Signal, sieht darin erhebliche Risiken für die Privatsphäre und Sicherheit der Nutzer. Auf der SXSW-Konferenz in Austin, Texas, verglich sie die Nutzung solcher KI-Agenten mit dem Bild, das eigene Gehirn in ein Glas zu legen, da die KI viele alltägliche Aufgaben übernehmen könnte.

Whittaker erläuterte, dass diese KI-Agenten Zugriff auf zahlreiche persönliche Daten benötigen, um ihre Aufgaben zu erfüllen. Dazu gehören der Zugriff auf den Webbrowser, Kreditkarteninformationen, Kalender und Messaging-Apps. Diese umfassende Datenverarbeitung erfordert in der Regel Root-Berechtigungen, was bedeutet, dass die KI-Agenten auf alle Datenbanken zugreifen können, oft ohne Verschlüsselung.

Ein weiterer kritischer Punkt ist die Tatsache, dass die Verarbeitung solcher Daten in der Regel nicht auf dem Gerät selbst erfolgt, sondern auf Cloud-Servern. Dies birgt zusätzliche Risiken für die Datensicherheit, da die Informationen über das Internet gesendet und verarbeitet werden müssen. Whittaker betonte, dass diese Entwicklung die Grenze zwischen Anwendungsebene und Betriebssystemebene verwischen könnte, indem sie verschiedene Dienste miteinander verbindet und deren Daten vermischt.

Besonders problematisch wäre eine Integration solcher KI-Agenten in Messaging-Apps wie Signal, da dies die Privatsphäre der Nachrichten gefährden würde. Der Agent müsste auf die App zugreifen, um Nachrichten zu senden und Daten zurückzuziehen, um diese zu analysieren.

Whittaker kritisierte auch das zugrunde liegende Geschäftsmodell der KI-Industrie, das auf Massenüberwachung und Datensammlung basiert. Sie warnte davor, dass das Paradigma „mehr Daten ist besser“ potenziell schädliche Konsequenzen haben könnte.

Die Einführung agentischer KI könnte die Privatsphäre und Sicherheit weiter untergraben, indem sie als eine Art „magischer Genie-Bot“ vermarktet wird, der die Herausforderungen des Lebens bewältigt. Diese Entwicklung könnte langfristig die Art und Weise verändern, wie wir mit Technologie interagieren und welche Kontrolle wir über unsere persönlichen Daten haben.

Bestseller Nr. 1

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3

PLAUD Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4

KI-Sprachrekorder, PLAUD NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

79,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!