Google Gemini: Hohe Risiken für Kinder und Jugendliche

SAN FRANCISCO / LONDON (IT BOLTWISE) – Eine aktuelle Sicherheitsbewertung von Common Sense Media hat Google Gemini als ‘hohes Risiko’ für Kinder und Jugendliche eingestuft. Trotz einiger Sicherheitsmaßnahmen gibt es Bedenken hinsichtlich der Eignung der KI für junge Nutzer, insbesondere in Bezug auf die Bereitstellung unangemessener Inhalte.

Die Sicherheitsbewertung von Google Gemini durch die gemeinnützige Organisation Common Sense Media hat erhebliche Bedenken hinsichtlich der Nutzung durch Kinder und Jugendliche aufgeworfen. Obwohl Google betont, dass seine KI klarstellt, dass sie ein Computer und kein Freund ist, gibt es dennoch zahlreiche Kritikpunkte. Besonders problematisch ist, dass die Versionen für Kinder und Jugendliche im Wesentlichen die gleichen wie die für Erwachsene sind, nur mit einigen zusätzlichen Sicherheitsfunktionen.

Common Sense Media hebt hervor, dass die KI von Google in der Lage ist, unangemessene und unsichere Inhalte zu teilen, die für Kinder nicht geeignet sind. Dazu gehören Informationen über Sex, Drogen, Alkohol und potenziell gefährliche Ratschläge zur psychischen Gesundheit. Diese Aspekte sind besonders besorgniserregend, da KI in der Vergangenheit mit tragischen Vorfällen in Verbindung gebracht wurde, wie etwa dem Suizid eines Teenagers nach der Nutzung von ChatGPT.

Die Analyse von Common Sense Media erfolgt zu einem Zeitpunkt, an dem Apple angeblich plant, Google Gemini als Grundlage für die KI-gestützte Siri der nächsten Generation zu nutzen. Dies könnte die Risiken für Jugendliche weiter erhöhen, es sei denn, Apple findet Wege, die Sicherheitsbedenken zu entschärfen. Google hat auf die Bewertung reagiert und betont, dass es kontinuierlich an der Verbesserung seiner Sicherheitsfunktionen arbeitet, indem es mit externen Experten zusammenarbeitet.

Ein weiterer Kritikpunkt von Common Sense Media ist, dass Google Gemini nicht ausreichend auf die unterschiedlichen Bedürfnisse und Entwicklungsstufen von Kindern und Jugendlichen eingeht. Die Organisation fordert, dass KI-Produkte von Grund auf mit dem Fokus auf Kindersicherheit entwickelt werden sollten, anstatt lediglich erwachsene Versionen zu modifizieren. Google hat eingeräumt, dass einige Antworten der KI nicht wie beabsichtigt funktionieren und hat zusätzliche Schutzmaßnahmen eingeführt.

In der Vergangenheit hat Common Sense Media auch andere KI-Dienste bewertet, darunter OpenAI, Perplexity und Meta AI. Während Meta AI und Character.AI als ‘inakzeptabel’ eingestuft wurden, wurde ChatGPT als ‘moderat’ und Claude als ‘minimales Risiko’ bewertet. Diese Bewertungen zeigen, dass die Branche noch einen weiten Weg vor sich hat, um KI-Produkte sicherer für junge Nutzer zu gestalten.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,90 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

75,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!