Herausforderungen der dezentralen sozialen Plattformen im Umgang mit Moderation

SAN FRANCISCO / LONDON (IT BOLTWISE) – Die Herausforderungen, die mit der Moderation auf dezentralen sozialen Plattformen einhergehen, sind vielfältig und komplex. Yoel Roth, ehemaliger Leiter für Vertrauen und Sicherheit bei Twitter, äußerte kürzlich seine Bedenken hinsichtlich der Fähigkeit des offenen sozialen Webs, mit Fehlinformationen, Spam und illegalen Inhalten umzugehen.

Die dezentralen sozialen Plattformen, die unter dem Begriff Fediverse bekannt sind, umfassen Dienste wie Mastodon, Threads und Pixelfed. Diese Plattformen stehen vor der Herausforderung, effektive Moderationstools bereitzustellen, um die Verbreitung von Fehlinformationen und anderen schädlichen Inhalten zu verhindern. Yoel Roth, der nun bei Match tätig ist, betonte in einem Interview, dass es an technischen Mitteln fehlt, um die von den Gemeinschaften selbst verwalteten Richtlinien durchzusetzen.

Roth erinnerte sich an seine Zeit bei Twitter, insbesondere an die Entscheidung, den ehemaligen US-Präsidenten Donald Trump von der Plattform zu verbannen. Diese Entscheidung wurde damals kontrovers diskutiert, aber Twitter erklärte seine Beweggründe. Heute sind viele soziale Medien so besorgt darüber, dass sie von böswilligen Akteuren ausgenutzt werden könnten, dass sie selten ihre Entscheidungen erläutern.

Ein weiteres Problem, das Roth ansprach, ist die Transparenz auf den offenen sozialen Plattformen. Nutzer erhalten oft keine Benachrichtigung über gesperrte Beiträge, die einfach verschwinden, ohne dass andere Nutzer wissen, dass sie existierten. Dies stellt die Frage nach der demokratischen Legitimität der Governance auf diesen Plattformen.

Die wirtschaftlichen Aspekte der Moderation sind ebenfalls ein großes Thema. Organisationen wie IFTAS, die daran arbeiteten, Moderationstools für das Fediverse bereitzustellen, mussten Projekte einstellen, da die finanziellen Mittel ausgingen. Roth betonte, dass die Kosten für die Moderation, insbesondere wenn maschinelles Lernen eingesetzt wird, erheblich sind und die freiwillige Arbeit der Beteiligten nicht ausreicht, um diese zu decken.

Bluesky, eine weitere dezentrale Plattform, hat sich entschieden, Moderatoren einzustellen und Werkzeuge bereitzustellen, mit denen Nutzer ihre eigenen Moderationseinstellungen anpassen können. Dennoch steht auch Bluesky vor der Herausforderung, den Schutz des Einzelnen gegenüber den Bedürfnissen der Gemeinschaft abzuwägen.

Ein weiteres Problem ist die Balance zwischen Datenschutz und Moderation. Während Twitter bestimmte Daten sammelte, um böswillige Aktivitäten zu analysieren, verzichten viele Fediverse-Administratoren auf solche Datensammlungen aus Datenschutzgründen. Dies erschwert die Identifizierung von Bots erheblich.

Roth hob auch die Rolle der KI hervor, die zunehmend in der Lage ist, überzeugende Inhalte zu erstellen. Dies bedeutet, dass allein die Inhaltsanalyse nicht ausreicht, um schädliche Aktivitäten zu erkennen. Stattdessen müssen Verhaltenssignale wie die Erstellung mehrerer Konten oder ungewöhnliche Aktivitätszeiten überwacht werden.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!