SAN FRANCISCO / LONDON (IT BOLTWISE) – Meredith Whittaker, CEO von Signal, warnt vor einer unkritischen Nutzung von KI-Assistenten im Alltag. Im Fokus steht die starke Integration solcher Tools in Betriebssysteme und Produktivsoftware, die sensible Daten über Berechtigungen offengelegen könnte. Sie betont zugleich den Unterschied zwischen Werkzeugen und „Begleitern“ und empfiehlt KI nur dort, wo Formate und Inhalte nicht entscheidungsrelevant sind. Für Unternehmen bedeutet das: Datenflüsse, Rollenmodelle und Compliance müssen früher geplant werden als die KI-Implementierung selbst.
Meredith Whittaker, Chefin des verschlüsselten Messengers Signal, mahnt zur Vorsicht bei KI-Assistenten. Ihre Kernaussage: Künstliche Intelligenz in Form von Chatbots ist kein persönlicher, verlässlicher Gesprächspartner, sondern verarbeitet nur Muster aus vorhandenen Daten. Gerade deshalb sieht sie eine wachsende Gefahr für die Privatsphäre, wenn Nutzer solche Systeme wie „Freunde“ behandeln. Der öffentliche Diskurs dreht sich dabei häufig um beeindruckende Antworten und Produktivitätsgewinne – weniger jedoch um das, was KI-Systeme tatsächlich sehen, speichern oder weiterreichen, sobald sie in alltägliche Workflows eingebettet sind.
Technisch lässt sich die Kritik an KI-Assistenten gut an ihrem Integrationsniveau festmachen. Viele moderne Assistenzsysteme greifen nicht nur auf Texteingaben zu, sondern können auch systemnahe Informationen auslesen, etwa aus Browsern, Kalendern, Aufgabenlisten oder Kommunikations-Tools – je nach eingerichteten Berechtigungen. Genau an dieser Stelle entsteht für Whittaker ein potenzielles Sicherheitsproblem: Wenn ein KI-Assistent auf Inhalte zugreifen darf, die vertrauliche Entscheidungen oder persönliche Daten enthalten, wird aus einer „Unterstützung“ schnell ein zusätzlicher Datenabflusskanal. Der entscheidende Punkt ist weniger das Modellverhalten, sondern die Berechtigungs- und Datenflussarchitektur rundherum.
Im Gespräch wird Whittaker besonders konkret, wenn sie Microsoft Copilot als Beispiel für ein erhöhtes Risiko nennt. Ihr Argument zielt auf die Tiefe der Berechtigungen: Von Kreditkarteninformationen über Browserverläufe bis hin zu Kalendereinträgen und privaten Nachrichten seien es genau diese Zugriffsrechte, die bei Fehlkonfiguration oder Missbrauch zum Einfallstor werden können. Marktbeobachter erinnern in diesem Zusammenhang daran, dass Wettbewerber ebenfalls in ähnliche Richtungen gehen: Auch Google (etwa Gemini-Ökosysteme) und Apple mit „on-device“-Ansätzen positionieren KI als Schnittstelle zum Alltag. Der Unterschied liegt jedoch häufig in der Frage, wie granular die Datenfreigaben steuerbar sind und wie transparent sie den Nutzern kommuniziert werden.
Historisch betrachtet ist das Sicherheitsproblem nicht neu, aber es verschärft sich durch Sprachmodelle. Schon bei Cloud-Speichern, Browser-Sync und Produktivitäts-Suiten ging es darum, dass bequemes Arbeiten neue Angriffspunkte schafft: Jede zusätzliche Integration erweitert die Angriffsfläche, etwa durch Zugriffsrechte, API-Schnittstellen oder Inkonsistenzen in der Protokollierung. Neu ist vor allem die Kombination aus natürlicher Spracheingabe, Kontextauswertung und potenziell weitreichenden Systemzugriffen. Frühere KI-Ansätze wie regelbasierte Texthilfen hatten meist geringere Reichweite. Mit großen Sprachmodellen steigt die praktische Nutzungsschwelle, sodass auch diejenigen Workflows in den Geltungsbereich geraten, die früher aus gutem Grund getrennt blieben.
Whittaker zeichnet dabei ein differenziertes Bild: Sie erkennt den Nutzen von KI an, nutzt sie aber nach eigener Darstellung vor allem für Formatierungsaufgaben. Sobald es um korrekte Informationen, Absicht oder Entscheidungen gehe, hält sie KI-Systeme für ungeeignet. Diese Haltung ist aus Unternehmersicht ein Hinweis auf die Notwendigkeit sauberer Einsatzgrenzen. In der Praxis heißt das: KI kann bei nicht-deterministischen, niedrig riskanten Aufgaben helfen, etwa beim Umschreiben oder Strukturieren von Texten. Für Bereiche mit hoher Verlässlichkeit – etwa Compliance-relevante Auskünfte, Rechtsinterpretationen oder sicherheitskritische Analysen – muss ein Mensch die letzte Verantwortung tragen und das System streng begrenzt werden. Genau hier entscheidet die Governance.
Der Markt bewegt sich parallel zu dieser Debatte. Während viele Anbieter KI als „Produktivitätslayer“ verkaufen, arbeiten Sicherheits- und Datenschutzteams zunehmend an konkreten Kontrollen: Least-Privilege-Prinzip, Mandantenfähigkeit, Audit-Trails und die Frage, wo Daten verarbeitet werden (lokal, in der Cloud oder in hybriden Setups). Branchenexperten weisen zudem darauf hin, dass die tatsächlichen Risiken oft weniger von der KI selbst ausgehen als von der Betriebsorganisation: Wer darf was an welchen Kontext übergeben, welche Speicherfristen gelten, und wie wird verhindert, dass private Inhalte in Training oder Monitoring landen? Für Unternehmen ist das ein Umsetzungsproblem, kein reines Technikproblem.
Damit rückt auch die regulatorische Dimension in den Vordergrund. Whittaker betont, dass tief integrierte KI-Systeme nicht nur private Risiken schaffen, sondern neue gesetzliche Pflichten auslösen können – insbesondere im Rahmen der EU-KI-Verordnung, die Transparenz-, Risikoklassen- und Dokumentationsanforderungen aufbaut. Für IT-Entscheider bedeutet das: Die KI-Nutzung ist künftig stärker an Nachweisführung geknüpft, einschließlich Datenschutzfolgenabschätzung, Datenkategorisierung und technischen wie organisatorischen Maßnahmen. Die zentrale Sicherheitsfrage lautet dann: Wie lässt sich belegen, dass Zugriffe und Datenflüsse zum jeweiligen Use Case passen und keine unverhältnismäßigen Inhalte in KI-Pipelines geraten?
Für Signal als verschlüsselte Plattform ist die Warnung existenziell, weil jede Umleitung sensibler Daten die Wirksamkeit klassischer Schutzmaßnahmen untergraben kann. Whittaker argumentiert, dass Datensammlungen, die solche Inhalte aggregieren, traditionelle Sicherheitsmechanismen umgehen können; zudem könnten sensible Nutzerdaten in die Hände von Konzernen oder staatlichen Stellen gelangen. Aus Unternehmenssicht folgt daraus eine klare Zukunftsaufgabe: KI-Assistenten müssen in bestehende Sicherheitsarchitekturen integriert werden, ohne die End-to-End-Versprechen von Kommunikations- und Geheimhaltungszonen zu schwächen. In den nächsten Monaten werden vor allem drei Entwicklungen entscheidend: granular steuerbare Berechtigungen, bessere Transparenz für Nutzer und strengere, auditierbare KI-Governance – sonst bleibt das Vertrauen der schwächste Link.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Signal-Chefin warnt: Microsoft Copilot als Datenleck-Risiko" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Signal-Chefin warnt: Microsoft Copilot als Datenleck-Risiko" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Signal-Chefin warnt: Microsoft Copilot als Datenleck-Risiko« bei Google Deutschland suchen, bei Bing oder Google News!