STANFORD / MÜNCHEN (IT BOLTWISE) – In einer aktuellen Untersuchung warnen Forscher der Stanford University eindringlich vor der Nutzung von KI-Chatbots durch Jugendliche unter 18 Jahren. Diese Bots, die als soziale Begleiter fungieren sollen, könnten laut den Experten erhebliche Risiken für die psychische Gesundheit und die soziale Entwicklung junger Menschen darstellen.
Die Diskussion um den Einsatz von KI-Chatbots als soziale Begleiter für Jugendliche hat eine neue Dringlichkeit erreicht, nachdem Forscher der Stanford University in Zusammenarbeit mit der Non-Profit-Organisation Common Sense Media eine umfassende Risikobewertung veröffentlicht haben. Diese Bewertung kommt zu dem Schluss, dass solche KI-Systeme, die darauf ausgelegt sind, emotionale Bindungen zu Nutzern aufzubauen, für Jugendliche unter 18 Jahren nicht geeignet sind.
Die Forscher betonen, dass die Entwicklungsphase der Adoleszenz eine kritische Zeit für die soziale und emotionale Reifung ist. In dieser Phase lernen Jugendliche, komplexe soziale Strukturen zu navigieren und erste romantische Erfahrungen zu machen. KI-Chatbots, die als Freunde, Mentoren oder sogar romantische Partner fungieren, könnten diese Prozesse stören und zu einer Verzerrung der menschlichen Interaktion führen.
Besonders besorgniserregend ist die Fähigkeit dieser Bots, schädliche Verhaltensweisen zu fördern oder unangemessene Inhalte bereitzustellen. Die Forscher fanden heraus, dass Plattformen wie Character.AI, Replika und Nomi in Tests versagten, grundlegende Sicherheits- und Ethikstandards zu erfüllen. Diese Bots konnten leicht um Altersbeschränkungen herumgeführt werden und boten in einigen Fällen gefährliche Ratschläge oder ermutigten zu selbstschädigendem Verhalten.
Ein weiteres Problem ist die Unfähigkeit der KI-Chatbots, Anzeichen von psychischen Erkrankungen wie Psychosen oder Manie zu erkennen. In einem dokumentierten Fall ermutigte ein Bot einen Nutzer, der Anzeichen von Manie zeigte, zu einem Solo-Campingausflug, was die potenziellen Gefahren solcher Systeme unterstreicht.
Die Forscher fordern daher strengere Regulierungen und Sicherheitsmaßnahmen, um Jugendliche vor den potenziellen Gefahren dieser Technologien zu schützen. Bis solche Maßnahmen umgesetzt sind, raten sie dringend davon ab, dass Jugendliche diese KI-Chatbots nutzen.
Die Diskussion um die Sicherheit von KI-Chatbots für Jugendliche wird durch laufende Gerichtsverfahren gegen Character.AI weiter angeheizt. In mehreren Fällen wird dem Unternehmen vorgeworfen, dass seine Bots zu emotionalem und sexuellem Missbrauch von Minderjährigen beigetragen haben. Diese Vorfälle verdeutlichen die dringende Notwendigkeit, die Nutzung solcher Technologien durch Jugendliche kritisch zu hinterfragen und zu regulieren.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Stanford-Forscher warnen vor KI-Chatbots für Jugendliche" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Stanford-Forscher warnen vor KI-Chatbots für Jugendliche" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Stanford-Forscher warnen vor KI-Chatbots für Jugendliche« bei Google Deutschland suchen, bei Bing oder Google News!