Reddit verstärkt Verifizierung gegen KI-Bots

BERKELEY / MÜNCHEN (IT BOLTWISE) – Reddit plant, seine Verifizierungsprozesse zu verschärfen, um die Plattform vor menschlich wirkenden KI-Bots zu schützen. Diese Entscheidung folgt auf ein umstrittenes Experiment, bei dem eine Vielzahl von KI-gesteuerten Bots auf der Plattform eingesetzt wurde, um die Überzeugungskraft von KI zu testen.

Reddit hat kürzlich angekündigt, seine Verifizierungsprozesse zu verschärfen, um die Plattform vor der wachsenden Bedrohung durch KI-gesteuerte Bots zu schützen. Diese Entscheidung folgt auf ein umstrittenes Experiment, bei dem Forscher eine Vielzahl von KI-gesteuerten Bots auf dem Subreddit „Change My View“ einsetzten, um die Überzeugungskraft von KI zu testen. Die Bots hinterließen über 1.700 Kommentare und nahmen dabei verschiedene Identitäten an, was bei den Nutzern für Empörung sorgte.

Für Reddit ist die Wahrung der Authentizität von entscheidender Bedeutung, da die Plattform als Ort gilt, an dem echte Menschen echte Meinungen teilen. Die Gefahr, dass die Plattform von KI-Bots unterwandert wird, könnte nicht nur das Vertrauen der Nutzer erschüttern, sondern auch die wirtschaftlichen Interessen von Reddit gefährden, da das Unternehmen seine Inhalte an OpenAI verkauft.

Reddit hat das Experiment als „unethisch“ verurteilt und eine Beschwerde bei der Universität eingereicht, die es durchgeführt hat. Doch dies ist wahrscheinlich nur der Anfang einer Reihe von Vorfällen, bei denen generative KI-Bots versuchen, sich als Menschen auszugeben, sei es aus wissenschaftlichen oder politischen Gründen.

Um die Nutzer vor Manipulationen zu schützen und „Reddit menschlich zu halten“, plant das Unternehmen, mit verschiedenen Drittanbietern zusammenzuarbeiten, um die Menschlichkeit der Nutzer zu verifizieren. Dies ist ein bedeutender Schritt für eine Plattform, die bisher kaum persönliche Informationen für die Erstellung eines Kontos erforderte.

Reddit-CEO Steve Huffman betonte, dass Reddit niemals den Namen oder die Identität der Nutzer erfahren möchte. Stattdessen soll nur festgestellt werden, ob es sich um einen Menschen handelt und in einigen Fällen, ob der Nutzer volljährig ist. Diese Maßnahmen sind auch eine Reaktion auf gesetzliche Anforderungen, die in mehreren Staaten und Ländern eingeführt wurden, um Kinder auf sozialen Plattformen zu schützen.

Ein Sprecher von Reddit wollte keine genauen Angaben dazu machen, unter welchen Umständen eine Verifizierung erforderlich sein wird oder welche Drittanbieter zum Einsatz kommen. Viele Unternehmen nutzen bereits Plattformen wie Persona oder Stripe Identity, die in der Regel einen amtlichen Ausweis zur Alters- und Identitätsverifizierung verlangen.

Kritiker der ID-Überprüfungen warnen vor den Risiken für Datenschutz und Datensicherheit, insbesondere auf einer Plattform wie Reddit, wo Nutzer oft sehr persönliche Erfahrungen teilen. Es besteht die Sorge, dass Behörden die Identität von Nutzern anfordern könnten, was zu rechtlichen Konsequenzen führen könnte, wie ein Fall in Nebraska zeigt, bei dem private Nachrichten von Meta an die Polizei weitergegeben wurden.

Reddit hofft, solche Risiken zu vermeiden, indem es nur die notwendigsten Informationen von den Nutzern verlangt und weiterhin gegen übermäßige Anfragen von Behörden vorgeht. Anonymität bleibt ein zentraler Bestandteil der Reddit-Erfahrung, und das Unternehmen verspricht, die persönlichen Daten der Nutzer bestmöglich zu schützen.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!