LONDON (IT BOLTWISE) – Meredith Whittaker, die Präsidentin von Signal, warnt vor agentischer Künstlicher Intelligenz als systemischem Risiko für die Privatsphäre. Agentische KI müsse dafür sehr weitreichende Berechtigungen erhalten, die Ende-zu-Ende-Verschlüsselung faktisch aushebeln könnten. Besonders kritisch sieht sie den Einsatz von KI-Chatbots als „digitale Begleiter“, die Nutzeraktionen automatisch ausführen. Während der Markt für KI-Chatbots rasant wächst, zieht Kanada mit neuen Regeln für KI und Social Media nach.
Meredith Whittaker, Präsidentin des verschlüsselten Messengerdienstes Signal, setzt eine klare Grenze: Agentische KI-Systeme seien nicht automatisch „intelligente Assistenz“, sondern potenziell riskante Werkzeuge. In einem Interview stellte sie infrage, KI-Chatbots als persönliche Begleiter zu verabreden, weil diese Systeme kein Bewusstsein hätten und vor allem in der Praxis weit mehr als nur zu formulieren bräuchten. Entscheidend ist für Whittaker dabei nicht die Qualität des Sprachmodells, sondern die Art, wie agentische Software in Konten, Browsern und Kommunikationsumgebungen eingreift. Ihre Botschaft: Wer Künstliche Intelligenz eigenständig handeln lässt, verschiebt das Sicherheitsmodell weg von Ende-zu-Ende-Integrität hin zu breiten Zugriffspfaden.
Technisch lässt sich ihre Sorge als klassisches Threat-Model-Problem beschreiben. Ende-zu-Ende-Verschlüsselung schützt primär den Inhalt der Kommunikation zwischen den Endpunkten – aber sie verhindert nicht, dass eine dazwischenliegende oder angekoppelte Anwendung Inhalte oder Metadaten entschlüsselt, abgreift oder Aktionen im Namen des Nutzers anstößt. Agentische KI ist genau darauf ausgelegt, Workflows eigenständig auszulösen: Sie benötigt typischerweise Schnittstellen zu Datenquellen und Systemen, damit sie nicht nur „ratet“, sondern „handelt“. Je tiefer die Integration, desto mehr Berechtigungen werden übertragen, etwa für Kalender, Browserdaten oder Konto-Kontexte – und damit steigt die Wahrscheinlichkeit, dass vertrauliche Informationen in einem neuen, nicht-eingeschränkten Ausführungsraum landen.
Als Vergleich verweist Whittaker auf die Anforderungen, die entstehen, wenn ein KI-Assistenzsystem Aufgaben erledigen soll. In ihrem Bild müsste eine solche KI nicht nur Text erzeugen, sondern potenziell Kreditkartendaten einsehen, den Browserverlauf kennen und sogar auf Signal-Nachrichten sowie Privatanschrift und Kalender zugreifen. Genau dieses Zusammenspiel sieht sie als eine Art „Hintertür“ innerhalb verschlüsselter Nutzung: Nicht die Kryptografie an sich würde versagen, sondern der Gesamtprozess würde die Schutzwirkung indirekt umgehen. Ähnliche Kritik taucht in der Branche immer wieder auf, sobald Tools wie Microsoft Copilot in Unternehmenskonten eingebunden werden und Token, Rechte und Datenkontexte zusammenlaufen, statt strikt getrennt zu bleiben.
Der Markt bewegt sich indes in eine andere Richtung. Agentische Ansätze werden gerade deshalb attraktiv, weil sie Nutzerinteraktionen reduzieren und Automatisierung spürbar machen. Gleichzeitig wächst der Druck, KI-Chatbots mit persönlichen Daten zu verbinden, um „nützliche“ Ergebnisse zu liefern. Dass dieser Trend nun auch bei Zahlungs- und Kontodaten sichtbar wird, macht die Debatte dringlicher: Laut dem vorliegenden Kontext hat OpenAI für seinen Dienst ChatGPT Pro persönliche Finanzfunktionen eingeführt, bei denen Nutzer über eine Schnittstelle ihr Konto mit einer großen Zahl von Finanzinstituten verknüpfen können. Auch wenn Transaktionen zunächst nur im Lesezugriff möglich sind, bleiben die Risiken, denn selbst gelesene oder verarbeitet gespeicherte Daten können später in Trainings- oder Log-Umgebungen landen oder über Modellfehler und Prompt-Injektion unbeabsichtigt offengelegt werden.
Für die datenschutz- und sicherheitsbezogene Bewertung ist hier vor allem die Datenflut im Sprachmodell relevant. Stanford-Forscher werden im Kontext als Warnende zitiert: Jeder Datensatz, der in ein großes Sprachmodell eingespeist wird, könne grundsätzlich öffentlich werden – etwa durch fehlerhafte Zugriffskontrollen, unzureichende Trennung von Kontexten oder durch Auskunft über unsauber behandelte Prompts. Das ist kein Automatismus, aber ein strukturelles Risiko, das aus der heutigen Modellarchitektur und den Betriebspraktiken entsteht. Unternehmen müssen daher genauer unterscheiden, welche Datenkategorien in KI-Workflows überhaupt verarbeitet werden dürfen, und ob eine „Least Privilege“-Strategie technisch durchsetzbar ist, wenn agentische Systeme ganze Konten „programmatisch“ nutzen.
Während die Technik schneller läuft, versucht die Regulierung Schritt zu halten. In Kanada traten im Kontext Gesetzesvorhaben zur Steuerung von Social Media und Künstlicher Intelligenz in Kraft, die Privatsphäre als Grundrecht fest verankern und bei Verstößen empfindliche Strafen vorsehen. Interessant ist außerdem, dass die Diskussion nicht nur auf KI-Modelle abzielt, sondern auch auf die Medien- und Interaktionsschicht, über die Datenströme entstehen. Für Unternehmen bedeutet das: Compliance wird nicht mehr nur „Policy-Papier“, sondern wird mit messbaren Pflichten verbunden, etwa bei Transparenz, Zweckbindung und der Kontrolle darüber, wie Systeme Daten nutzen dürfen. Die Geschwindigkeit der Implementierung dürfte sich damit auf die Produkt-Roadmaps auswirken.
Auch Alters- und Zweckregeln spielen in den Gesamtkontext hinein. Während in Kanada im Kontext ein Verbot für Social-Media-Nutzung unter 16 Jahren erwähnt wird, gibt es beim Einsatz von KI-Chatbots keine vergleichbare Altersbeschränkung. Gleichzeitig fließt laut dem Text ein erheblicher Betrag in eine nationale KI-Strategie, inklusive der Zielsetzung, neue KI-bezogene Arbeitsplätze zu schaffen und eine digitale Aufsicht voranzutreiben. Das zeigt eine typische Spannung moderner Tech-Governance: Innovation soll gefördert werden, aber die Schutzmechanismen müssen so früh wie möglich in die Systemarchitektur „eingebaut“ werden. Für europäische und internationale Unternehmen ist das eine Mahnung, nicht erst nachgelagert Datenschutzmaßnahmen zu ergänzen, wenn agentische Integrationen bereits produktiv sind.
Signal bleibt derweil bei seiner Position: Whittaker macht deutlich, dass man im Zweifel lieber aus einzelnen Märkten zurückweichen würde, als die Integrität der Ende-zu-Ende-Verschlüsselung zu gefährden. Das ist auch als Geschäfts- und Sicherheitsentscheidung zu lesen: Ein Messenger kann seine Sicherheitsversprechen nur dann glaubwürdig halten, wenn die Integrationsmöglichkeiten mit externen KI-Funktionen klar begrenzt bleiben. In der Praxis bedeutet das für die nächsten Monate vor allem eine Neubewertung der Architekturentscheidungen, etwa über sogenannte „Data Boundaries“, strikte Permission-Grenzen und auditierbare Ausführungsumgebungen. Für Entwickler entsteht daraus eine Chance: KI-Features lassen sich auch sicherer gestalten, wenn sie kontextarm arbeiten, lokal limitierte Handlungsrechte erhalten und sensible Daten nicht in Trainings- oder Modellkontexte einfließen.
In Summe deutet sich ein zukünftiger Standard an: Agentische KI wird nicht allein nach „kognitiver Kompetenz“ beurteilt, sondern nach dem Sicherheitsniveau der eingebundenen Berechtigungen. Sobald Chatbots Shopping, Buchungen oder Kontoauszüge automatisiert interpretieren und Aktionen anstoßen, werden Ende-zu-Ende-Verschlüsselung und agentische Integrationsrechte zu einer gemeinsamen Systemfrage. Unternehmen, die heute KI-Produktivität ausrollen, sollten daher schon in der Designphase prüfen, wie sich Rechte minimal halten lassen, wie Logging und Datenlebenszyklen gestaltet sind und welche Risiken sich aus Drittanbieter-Schnittstellen ergeben. Agentische KI wird dadurch nicht verschwinden, aber sie wird – mit Blick auf Whittakers Warnungen – sehr wahrscheinlich in Richtung stärker kontrollierter, besser auditierbarer Workflows gedrängt werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Agentische KI im Verschlüsselungs-Check: Signal-Chefin warnt vor Hintertür" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Agentische KI im Verschlüsselungs-Check: Signal-Chefin warnt vor Hintertür" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Agentische KI im Verschlüsselungs-Check: Signal-Chefin warnt vor Hintertür« bei Google Deutschland suchen, bei Bing oder Google News!