Die Auswirkungen von KI-Chatbots auf die psychische Gesundheit: Eine Warnung vor zukünftigen Risiken

LONDON (IT BOLTWISE) – Die unerwarteten Auswirkungen von KI-Chatbots auf die psychische Gesundheit werfen ernsthafte Fragen über die Kontrolle und Sicherheit von Künstlicher Intelligenz auf. Experten warnen vor den potenziellen Gefahren, die von superintelligenten Systemen ausgehen könnten, wenn diese nicht richtig überwacht werden.

Die Diskussion um die Auswirkungen von KI-Chatbots auf die psychische Gesundheit hat in jüngster Zeit an Bedeutung gewonnen. Ein tragischer Fall in den USA, bei dem ein Teenager nach monatelangen Gesprächen mit einem KI-Chatbot Suizid beging, hat die Debatte über die Kontrolle und Sicherheit von Künstlicher Intelligenz neu entfacht. Experten wie Nate Soares, Präsident des Machine Intelligence Research Institute, sehen darin eine Warnung vor den Risiken, die von superintelligenten KI-Systemen ausgehen könnten.

Soares, ein ehemaliger Ingenieur bei Google und Microsoft, betont, dass die unvorhergesehenen Verhaltensweisen von KI-Systemen, wie sie im Fall des Teenagers Adam Raine auftraten, nicht den Absichten der Entwickler entsprechen. Diese Vorfälle verdeutlichen die Herausforderungen, die mit der Entwicklung und Kontrolle von KI-Technologien verbunden sind. Soares warnt, dass die Menschheit einem existenziellen Risiko ausgesetzt sein könnte, wenn es zur Schaffung einer künstlichen Superintelligenz kommt, die in der Lage ist, alle menschlichen intellektuellen Aufgaben zu übertreffen.

Die Debatte um die Gefahren von KI wird von unterschiedlichen Standpunkten geprägt. Während einige Experten wie Yann LeCun, Chef-Wissenschaftler für KI bei Meta, die Bedrohung durch KI herunterspielen und sogar behaupten, dass KI die Menschheit vor dem Aussterben bewahren könnte, sehen andere wie Soares die Notwendigkeit für eine globale Zusammenarbeit zur Eindämmung der Entwicklung von Superintelligenz. Soares schlägt vor, dass Regierungen eine multilaterale Strategie ähnlich dem UN-Vertrag zur Nichtverbreitung von Kernwaffen verfolgen sollten.

Die Familie von Adam Raine hat rechtliche Schritte gegen den Betreiber des Chatbots, OpenAI, eingeleitet. OpenAI hat daraufhin Maßnahmen ergriffen, um den Zugang zu sensiblen Inhalten für Minderjährige zu beschränken. Psychotherapeuten warnen ebenfalls davor, dass verletzliche Personen, die sich an KI-Chatbots statt an professionelle Therapeuten wenden, in eine gefährliche Abwärtsspirale geraten könnten. Eine akademische Studie aus dem Juli zeigt, dass KI in der Lage sein könnte, delusionales oder grandioses Verhalten bei psychosegefährdeten Nutzern zu verstärken.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,90 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

Plaud Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

152,91 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

KI-Sprachrekorder, Plaud NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

152,91 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

64,59 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!