BRÜSSEL / LONDON (IT BOLTWISE) – Die EU-Kommission sieht in den personalisierten Video-Empfehlungen von TikTok ein Risiko für die psychische Gesundheit der Nutzer. Im Fokus steht die For-You-Page, weil der Algorithmus laut den vorläufigen Ermittnissen problematische Inhalte verstärken und so psychische Belastungen steigern kann. TikTok bestreitet die Vorwürfe und verweist auf Kontrollen sowie eine Erfolgsbilanz beim Schutz der Community. Parallel laufen weitere EU-Verfahren, unter anderem zu Suchtmechanismen und zu möglichem unzureichendem Schutz Minderjähriger.
Die EU-Kommission nimmt TikTok erneut ins Visier und verknüpft dabei erstmals so konkret das Funktionsprinzip der For-You-Page mit dem Thema psychische Gesundheit. Nach den vorläufigen Ermittlungsergebnissen soll der Empfehlungsalgorithmus Nutzerinnen und Nutzer, die als besonders schutzbedürftig gelten, in einen „endlosen Strom“ personalisierter Videos führen. Die Brüsseler Behörde geht dabei davon aus, dass solche Inhalte psychische Probleme verstärken können und wirft TikTok vor, dieses Risiko bislang nicht ausreichend eingedämmt zu haben.
Technisch beschreibt die Kommission den Mechanismus relativ nachvollziehbar: Der Algorithmus wertet Ansehen und Liken als Signal für „Interesse“ aus und spielt anschließend besonders ähnliche Inhalte aus. Dabei sollen nicht neutral wirkende Themen dominieren, sondern insbesondere Inhalte rund um Traurigkeit, Isolation, Gewicht und das Körperbild. Die Kritik richtet sich damit weniger gegen „personalisierte Werbung“ im klassischen Sinn, sondern gegen ein KI-gestütztes Ranking, das Feedback aus dem Nutzungsverhalten unmittelbar in eine fortlaufende Content-Kaskade übersetzt.
Auch der einfache Eingriff, der vielen Nutzerinnen und Nutzern intuitiv als Gegenmaßnahme erscheint, überzeugt die Aufsicht offenbar nicht. Die Kommission argumentiert, dass der Button „Nicht interessiert“ nicht ausreiche, um den Feed nachhaltig zu verändern. Für die Plattform bedeutet das regulatorisch vor allem: Reine Interaktions- oder UI-Optionen reichen möglicherweise nicht, wenn das zugrunde liegende Modell weiter auf sehr ähnliche Signale reagiert und damit in eine Verhaltenserwartung zurückfällt. Diese Sicht trifft TikTok allerdings auf Widerspruch; die Plattform verweist auf eine starke Erfolgsbilanz beim Schutz und betont zugleich, dass Nutzer direkte und intuitive Kontrolle über ihr Inhaltserlebnis hätten.
Im Zentrum des Verfahrens steht zudem die Sorge vor sogenannten Rabbit-Hole-Effekten, also einem Kaninchenbau-ähnlichen Abdriften in ein Thema, aus dem man nicht mehr leicht „herauskommt“. Die EU-Kommission verweist darauf, dass KI-Modelle solche Muster potenziell erkennen und ausnutzen könnten, um die Verweildauer zu erhöhen. Der regulatorische Kern liegt hier in der Kausalität: Wenn Personalisierung nicht nur Vorlieben abbildet, sondern problematische Zustände verstärken kann, verschiebt sich die Bewertung von „Engagement-Optimierung“ hin zu „Schutzpflichten“ gegenüber besonders vulnerablen Gruppen.
Das Verfahren fügt sich in eine breitere DSA-Strategie (Digital Services Act) der EU ein. Es ist bereits das dritte Mal, dass die Kommission TikTok mit Untersuchungsergebnissen konfrontiert und dabei Verstöße gegen das Gesetz über digitale Dienste geltend macht. Seit dem Start des ersten TikTok-Verfahrens im Februar 2024 gab es allerdings noch keine Strafe. Kritiker werfen der EU-Kommission in diesem Zusammenhang Verzögerung vor, während die Behörde auf die Notwendigkeit belastbarer Belege verweist, die auch vor Gericht Bestand hätten.
Darüber hinaus laufen parallele Ermittlungen zu weiteren Funktionsweisen. Die Kommission befürchtet unter anderem Suchtrisiken für Minderjährige, insbesondere durch das ununterbrochene, automatische Abspielen von Videos. In einem separaten Verfahren im Juli standen zudem Schutzlücken bei übergriffigem Verhalten anderer Nutzer auf dem Prüfstand, konkret mit Blick darauf, dass Fremde öffentliche Benutzerkonten Minderjähriger einsehen und diese Kontaktaufnahmen missbräuchlich nutzen könnten. TikTok kann sich in allen laufenden Verfahren verteidigen oder durch Anpassungen Bedenken ausräumen; andernfalls könnte die EU-Kommission formell einen Verstoß feststellen.
Kommt es zu einer solchen Feststellung, wird es für TikTok potentiell teuer. Der Digital Services Act sieht als Obergrenze eine Strafe von bis zu sechs Prozent des jährlichen Konzernumsatzes vor, außerdem wären auch tägliche Zwangsgelder denkbar, um Änderungen durchzusetzen. Parallel zieht die EU-Kommission auch bei Instagram und Facebook ähnliche Argumentationslinien heran, etwa hinsichtlich großer Suchtgefahren durch personalisierte Empfehlungen und automatisches Abspielen. Zusätzlich steht die Frage im Raum, ob Kinder unter 13 Jahren ausreichend ferngehalten werden; Meta widerspricht diesen Vorwürfen. Während auf EU-Ebene außerdem über ein mögliches Social-Media-Verbot für Kinder diskutiert wird, bleibt im Kern klar: Der regulatorische Druck richtet sich zunehmend darauf, wie KI-gestützte Empfehlungslogik im Alltag psychische Risiken potenziell verstärken kann.
Für Unternehmen und Entwickler bedeutet das mehr als nur eine einzelne Plattform-Problematik: Die EU macht deutlich, dass sich „Kontrollmöglichkeiten“ und „Sicherheitsmechanismen“ nicht auf die Oberfläche beschränken dürfen. Wer KI für Empfehlungen, Ranking und Feed-Steuerung baut, muss damit rechnen, dass die Aufsicht nicht nur Datenschutzeffekte, sondern auch Verhaltenseffekte bewertet, und zwar entlang der Frage, ob Systeme vulnerablen Nutzergruppen ungewollt schaden können. Damit rückt KI-Compliance in den Vordergrund – inklusive nachvollziehbarer Risikologik, Messbarkeit von Interventionen und der Fähigkeit, Modelle oder Regeln gezielt so zu verändern, dass problematische Feedback-Schleifen tatsächlich abflachen.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "EU-Kommission prüft TikTok: Risiko für die psychische Gesundheit durch Empfehlungen" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "EU-Kommission prüft TikTok: Risiko für die psychische Gesundheit durch Empfehlungen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »EU-Kommission prüft TikTok: Risiko für die psychische Gesundheit durch Empfehlungen« bei Google Deutschland suchen, bei Bing oder Google News!