BRÜSSEL / LONDON (IT BOLTWISE) – Die EU-Kommission sieht TikTok nach vorläufigen Ermittlungsergebnissen durch die Empfehlungssysteme auf der For-You-Page in der Pflicht, psychische Risiken besser einzudämmen. Im Fokus steht, dass der Algorithmus Nutzern ähnlichere Inhalte ausspielt, nachdem sie mit Ansehen und Liken Interesse gezeigt haben. Die Behörde kritisiert, dass Gegenmaßnahmen bislang nicht ausreichend wirksam seien – selbst der „Nicht interessiert“-Button ändere den Feed offenbar nicht zuverlässig. Parallel laufen weitere Verfahren, in denen auch süchtig machende Mechanismen und der Jugendschutz eine Rolle spielen.
Die EU-Kommission nimmt TikTok erneut ins Visier: Nach vorläufigen Ermittlungsergebnissen soll die Video-Empfehlung auf der Plattform besonders schutzbedürftige Nutzerinnen und Nutzer mit einem anhaltenden Strom personalisierter Inhalte konfrontieren, der psychische Probleme verstärken kann. Im Kern geht es dabei um die „For You-Page“, also die Seite, die Inhalte möglichst schnell vorselektieren und ausspielen soll, nachdem Nutzerinnen und Nutzer bereits mit Interaktionen wie Ansehen oder Liken ein Interesse signalisiert haben. Damit verbindet sich ein konkreter Vorwurf an das Produktdesign: Die Behörde wirft dem Unternehmen vor, dieses Risiko nicht ausreichend eingedämmt zu haben und bislang zu wenig wirksame Maßnahmen umgesetzt zu haben.
Technisch betrachtet beschreibt die EU in ihrer Begründung einen typischen Mechanismus moderner Recommender-Systeme: Der Algorithmus interpretiert Signale aus dem Nutzungsverhalten als Eingaben für den nächsten Auswahl- und Ranking-Schritt. Wer auf bestimmte Themen reagiert, sieht danach stärker ähnliche Inhalte; im vorliegenden Fall nennt die Behörde Themenfelder, die mit Traurigkeit, Isolation, Gewicht und Körperbild verknüpft sein können. Entscheidend ist dabei nicht, dass ein einzelnes Video „schädlich“ sein müsse, sondern dass die personalisierte Kaskade so lange weiterläuft, bis die Nutzerinteraktion anders ausfällt. Genau an dieser Stelle setzt die Kritik an: Der verfügbare „Nicht interessiert“-Button soll laut den vorläufigen Ergebnissen nicht reichen, um den Feed spürbar und zuverlässig zu verändern.
Besonders prominent ist außerdem die Sorge vor sogenannten Rabbit-Hole-Effekten, im Deutschen wird dafür die Metapher „Kaninchenbau“ verwendet. Gemeint ist ein Muster, bei dem sich jemand so tief in ein Thema verheddert, dass ein konstruktives „Herausfinden“ aus der Informationsspirale schwerer wird. Die EU-Kommission ordnet dieses Verhalten einem Zusammenspiel aus Plattformlogik und algorithmischer Auswertung zu: Algorithmen könnten demnach erkennbare Verhaltensmuster identifizieren und ausnutzen, um die Verweildauer zu erhöhen. Das Problem wäre dann weniger ein einzelner Inhalt als vielmehr die langfristige Dynamik des Empfehlungssystems, die Nutzende in potenziell belastende Inhalte hineinzieht – insbesondere bei Kindern und Jugendlichen, die in vielen Studien als besonders anfällig für digitale Verstärkungseffekte gelten.
Damit hängt das Verfahren direkt mit dem rechtlichen Rahmen zusammen, der die Plattformen stärker in die Pflicht nimmt: Der Digital Services Act (DSA) soll eigentlich ein „scharfes Schwert“ gegen problematische Praktiken großer Online-Plattformen sein. Gleichzeitig betont die EU in der Darstellung, dass Entscheidungen vor Gericht standhalten müssen und deshalb sorgfältig bewiesen werden sollten. Für TikTok wäre die Lage in der Praxis besonders anspruchsvoll, weil die Behörde das Unternehmen nicht nur auf allgemeine Risiken festnageln will, sondern eine konkrete Funktionsweise – die Personalisierung auf der For-You-Page – mit dem behaupteten Risiko verknüpft. Zwar habe TikTok bereits Maßnahmen gegen solche Mechanismen ergriffen, doch laut den vorläufigen Ermittlungsergebnissen seien diese bislang nicht wirksam genug.
Es bleibt nicht bei diesem einen Komplex: Die EU treibt demnach das nächste Verfahren gegen die App voran, die von der chinesischen Firma Bytedance betrieben wird. Es ist laut der Darstellung bereits das dritte Mal, dass Brüssel TikTok mit Untersuchungsergebnissen konfrontiert und Verstöße gegen den DSA vorwirft. Seit dem Start des ersten Verfahrens im Februar 2024 habe es jedoch noch keine Strafe gegeben. Kritiker führen diese Zurückhaltung darauf zurück, dass die EU-Kommission gegebenenfalls zu langsam agiere; gleichzeitig verweist die Behörde darauf, dass eine belastbare Entscheidung juristisch abgesichert sein müsse. Für Unternehmen ergibt sich daraus ein klares Signal: Compliance ist nicht nur „Policy auf Papier“, sondern muss sich in überprüfbaren System- und Wirksamkeitsnachweisen niederschlagen.
Zusätzlich läuft laut den Angaben ein weiteres Verfahren gegen TikTok, bei dem es um Mechanismen gehen soll, die Minderjährige in eine Art Suchtverhalten treiben könnten. Als konkretes Beispiel nennt die EU das ununterbrochene, automatische Abspielen von Videos. In einem separaten Verfahren im Juli kritisierten die Brüsseler Internetwächter zudem, dass Kinder und Jugendliche nicht ausreichend vor übergriffigem Verhalten anderer Nutzer geschützt seien; dabei wird insbesondere darauf abgestellt, dass Fremde öffentliche Benutzerkonten Minderjähriger einsehen können und die jungen Nutzer dadurch leichter mit missbräuchlichen Absichten kontaktiert werden könnten. TikTok hat in allen genannten Verfahren die Möglichkeit, sich zu verteidigen oder Bedenken mit Änderungen zu adressieren; für den Ausgang ist entscheidend, ob sich eine einvernehmliche Lösung findet oder ob die Kommission formell Verstöße feststellen kann.
Der potenzielle Maßstab wird in der Darstellung konkret: Falls kein Einlenken erfolgt und die Behörde einen Verstoß formell feststellen würde, könnte eine Strafe von bis zu sechs Prozent des jährlichen Konzernumsatzes verhängt werden. Außerdem wären tägliche Zwangsgelder möglich, um TikTok zu Verhaltensänderungen zu bewegen. Auch wenn diese Größenordnung in den Medien und in der Branche als besonders hoch wahrgenommen wird, zeigt das Zusammenspiel aus Vorwürfen, vorläufigen Ergebnissen und dem Hinweis auf gerichtsfeste Beweise vor allem eins: Das Verfahren zielt auf überprüfbare Wirksamkeit technischer und organisatorischer Schutzmaßnahmen ab. Für Produktteams bedeutet das, dass Empfehlungssysteme, Interaktionsmechaniken und Jugendschutz nicht isoliert behandelt werden dürfen, sondern gemeinsam entlang klarer Risikoannahmen gemessen werden müssen.
Für den Markt ist die Entwicklung mehr als nur ein Einzelfall. Wenn die EU-Kommission Rabbit-Hole-Effekte, personalisierte Feeds und „wirkt oder wirkt nicht“-Fragen in den Fokus rückt, verschiebt sich der Benchmark für KI-gestützte Discovery-Systeme: Plattformen müssen nachweisen, wie sie aus Nutzersignalen nicht nur Engagement, sondern auch Sicherheitsziele steuern. Die For-You-Page wird damit zum Prüfstein dafür, ob Personalisierung im Sinne des DSA so umgesetzt werden kann, dass sie zwar Inhalte passgenau ausspielt, aber nicht problematische Schleifen verstärkt. Genau hier wird sich in den kommenden Monaten zeigen, ob TikTok die geforderten Änderungen substantiell nachweisen kann – und ob andere Anbieter ihre Empfehlungskaskaden in Richtung nachweisbarer Schutzwirkung neu ausrichten.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "EU-Kommission prüft TikTok wegen For-You-Page und psychischer Risiken" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "EU-Kommission prüft TikTok wegen For-You-Page und psychischer Risiken" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »EU-Kommission prüft TikTok wegen For-You-Page und psychischer Risiken« bei Google Deutschland suchen, bei Bing oder Google News!