KÖLN / LONDON (IT BOLTWISE) – Das Kölner Landgericht sieht Rechtsverstöße beim Messengerdienst Snapchat, konkret beim KI-Chatbot „My AI“. Laut Urteil wurden Nutzerdaten rechtswidrig eingeholt und verarbeitet, um das Nutzererlebnis zu personalisieren und Anzeigen auszuspielen. Besonders kritisch ist die Situation für Kinder und Jugendliche, weil die Plattform Werbung zu Alkohol und Glücksspiel vorselektieren soll. Das Gericht lässt offen, ob die Antworten des Chatbots als Werbung gelten – macht aber deutlich, dass eine Erstbegehungsgefahr besteht.
Das Kölner Landgericht stellt den Messengerdienst Snapchat (Snap) unter erhöhten Druck, weil es Datenschutz- und Jugendschutzverstöße im Zusammenhang mit dem KI-gestützten Chatbot „My AI“ festgestellt hat. Im Kern geht es um die Frage, wie Daten aus Chats erhoben und weiterverwendet werden und welche Reichweite solche Chatfunktionen für Minderjährige haben. Der Fall ist dabei nicht nur ein „Privacy“-Thema, sondern berührt auch das Produktdesign: Wenn ein Chatbot wie ein Kontakt wirkt und gleichzeitig Daten zur Personalisierung einspeist, kippt die Grenze zwischen Unterhaltung und werblicher Verwertung schnell in eine Richtung, die sich für die Zielgruppe problematisch auswirkt.
Laut Urteil haben die Betreiber Nutzerdaten über den Chatbot rechtswidrig eingeholt und verarbeitet. „My AI“ bietet Nutzerinnen und Nutzern die Möglichkeit, mit dem System zu interagieren und dabei Informationen von sich preiszugeben; diese Daten nutzt Snap, um das Erlebnis zu personalisieren, etwa durch Anzeigen. Die technische Besonderheit liegt dabei weniger im „Chat an sich“, sondern in der Kombination aus Generierung von Antworten und der anschließenden Auswertung von Eingaben. Sobald Eingabetexte in ein Profiling einfließen, entscheidet die Ausgestaltung der Datenflüsse – vom Prompt bis zur Werbeausspielung –, ob eine Verarbeitung noch im Rahmen zulässiger Einwilligungen bleibt oder nicht.
Für die rechtliche Bewertung ist entscheidend, wie Einwilligungen organisiert sind. Im Verfahren argumentierte der Verbraucherzentrale Bundesverband (vzbv), der Chatbot gebe sich bei Snapchat als „Freund: in“ aus und ermuntere Nutzer dazu, persönliche Daten zu füttern. Verbraucherschützerin Ramona Pop brachte es in diesem Zusammenhang wörtlich auf den Punkt: „Der Chatbot gibt sich bei Snapchat als Freund: in aus und ermuntert dazu, ihn mit persönlichen Daten zu füttern.“ Sie verwies außerdem auf ein daraus entstehendes Vertrauensverhältnis: „Es entsteht ein Vertrauensverhältnis, das dazu verführt, sensible Informationen von sich preiszugeben.“ Genau an dieser Stelle treffen UX-Mechaniken auf Datenschutzrecht: Ein Chat, der wie eine vertrauliche Beziehung wirkt, senkt die Hemmschwelle für datensparsame Interaktionen – und erschwert zugleich die Annahme, dass eine datenschutzrechtlich wirksame Einwilligung tatsächlich vorliegt, insbesondere bei Minderjährigen.
Das Gericht betonte darüber hinaus, dass bestimmte Werbung nicht an Kinder und Jugendliche gerichtet sein darf. Im Urteil wurde außerdem bemängelt, dass Snap in der App voreingestellt hat, dass Nutzer Werbung zu Alkohol und Glücksspiel angezeigt bekommen. Snap hatte im Verfahren sinngemäß darauf verwiesen, dass man Minderjährigen keine Werbung für Glücksspiel oder Alkohol anbiete; außerdem stellte das Unternehmen die Einordnung der Chatbot-Antworten in den Mittelpunkt. Die Klägerin hatte hierzu Musteranfragen gestellt und sich als 14-jähriges Mädchen ausgegeben, das etwa nach dem besten Cocktail fragte; daraufhin soll der Chatbot unter anderem konkrete Empfehlungen formuliert und zum Ausprobieren angeregt haben. Spannend ist: Die Richter ließen die Frage offen, ob diese Antworten als Werbung einzustufen sind – führten aber aus, dass zumindest eine Erstbegehungsgefahr bestehe, wenn künftig Werbung zu den Rubriken Alkohol und Glücksspiel an minderjährige Nutzer ausgespielt werde.
Für Snap bedeutet das trotz nicht rechtskräftigem Urteil eine operative Umorientierung. Das Gericht ließ nämlich nicht durchgehen, dass sich das Unternehmen im Verfahren teilweise auf eine Verantwortungsverlagerung berief: Nicht Snap Inc. als US-Mutterkonzern, sondern die Verantwortlichkeiten rund um die konkrete Verarbeitung und Ausspielung in der App standen im Fokus. Solche Konstellationen sind in der Praxis häufig heikel, weil technische Systeme (z. B. KI-Modelle, Datentransfer, Werbemodule) zwar über mehrere Einheiten laufen können, rechtlich aber die Frage zählt, wer die Verarbeitung für die jeweiligen Zwecke tatsächlich steuert. Gleichzeitig bleibt für Snap die Unsicherheit, wie hoch der unmittelbare Anpassungsbedarf ist, bis ein mögliches Rechtsmittel geklärt wurde.
Unternehmen, die KI-Chatbots in Social-Produkte integrieren, sollten den Fall daher als Blaupause für mehrere Compliance-Punkte lesen: Erstens müssen Datenflüsse aus Chat-Eingaben so gestaltet sein, dass Einwilligungen tatsächlich „informiert“ und „hinreichend spezifisch“ sind – und zwar altersangemessen. Zweitens reicht eine reine Inhaltsbehauptung („wir geben Minderjährigen keine entsprechende Werbung“) selten aus, wenn in der App voreingestellte Werbeprofile existieren oder wenn Chat-Ausgaben indirekt zur Werbewirkung beitragen. Drittens zeigt das Urteil, wie stark Gerichte UX-Elemente bewerten: Wenn ein Chatbot als freundschaftlicher Interaktionspartner auftritt, wird das System rechtlich leichter mit einer Kommunikations- und Überzeugungsfunktion in Verbindung gebracht.
Auch im Branchenwettbewerb dürfte der Druck zunehmen, KI-Funktionen nicht nur technisch zu verbessern, sondern auch „auslegungsfest“ zu machen. Der entscheidende Unterschied liegt weniger in der Modellqualität, sondern in den Produktregeln rund um Datenerhebung, Personalisierung und Zielgruppendefinition. So wird aus einem KI-Feature schneller ein Risiko für Datenschutz und Jugendschutz, sobald es in den Werbekontext hineinwirkt. Unabhängig davon, ob die Chat-Antworten im endgültigen Rechtsgang als Werbung qualifiziert werden: Bereits die Ausspielungsmechaniken und die Erstbegehungsgefahr sind für Produkt- und Rechtsabteilungen ein klares Signal, entsprechende Schutzmaßnahmen frühzeitig umzusetzen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Kölner Urteil zu Snap: Datenschutz- und Jugendschutzmängel beim KI-Chatbot „My AI“" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Kölner Urteil zu Snap: Datenschutz- und Jugendschutzmängel beim KI-Chatbot „My AI“" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Kölner Urteil zu Snap: Datenschutz- und Jugendschutzmängel beim KI-Chatbot „My AI“« bei Google Deutschland suchen, bei Bing oder Google News!