OpenAI steht vor neuen Herausforderungen durch KI-Halluzinationen

MÜNCHEN (IT BOLTWISE) – OpenAI sieht sich in Europa mit einer neuen Datenschutzbeschwerde konfrontiert, die die Tendenz seines KI-Chatbots ChatGPT betrifft, falsche Informationen zu halluzinieren. Diese Beschwerde könnte für die Regulierungsbehörden schwer zu ignorieren sein.

OpenAI steht erneut im Fokus europäischer Datenschutzbehörden, da sein KI-Chatbot ChatGPT immer wieder falsche Informationen generiert. Ein besonders gravierender Fall betrifft einen Norweger, der entsetzt feststellen musste, dass ChatGPT fälschlicherweise behauptete, er sei wegen Mordes an seinen Kindern verurteilt worden. Diese Art von Halluzinationen wirft ernsthafte Fragen zur Genauigkeit und Zuverlässigkeit von KI-Systemen auf, insbesondere im Hinblick auf die Einhaltung der Datenschutz-Grundverordnung (GDPR) der Europäischen Union.

Die Datenschutz-Grundverordnung verlangt von Datenverantwortlichen, dass die von ihnen verarbeiteten personenbezogenen Daten korrekt sind. Dies ist ein zentraler Punkt der aktuellen Beschwerde, die von der Datenschutzorganisation Noyb unterstützt wird. Joakim Söderberg, Datenschutzanwalt bei Noyb, betont, dass ein einfacher Hinweis auf mögliche Fehler des Chatbots nicht ausreicht, um die Verbreitung falscher Informationen zu rechtfertigen.

Die möglichen Konsequenzen für OpenAI sind erheblich. Bei bestätigten Verstößen gegen die GDPR drohen Strafen von bis zu 4 % des weltweiten Jahresumsatzes. Bereits in der Vergangenheit hat eine Intervention der italienischen Datenschutzbehörde dazu geführt, dass der Zugang zu ChatGPT vorübergehend gesperrt wurde, was OpenAI zu Anpassungen zwang. Diese Entwicklungen zeigen, dass Datenschutzbehörden zunehmend versuchen, die Anwendung der GDPR auf KI-Technologien zu klären.

Ein weiterer Aspekt der Beschwerde betrifft die fehlende Möglichkeit für Nutzer, falsche Informationen zu korrigieren. Während OpenAI in der Vergangenheit angeboten hat, Antworten für bestimmte Anfragen zu blockieren, reicht dies unter den aktuellen Datenschutzbestimmungen nicht aus. Die Forderung nach einer Möglichkeit zur Korrektur von Daten wird immer lauter, da die potenziellen Schäden durch falsche Informationen erheblich sein können.

Interessanterweise hat ein Update des zugrunde liegenden KI-Modells von ChatGPT dazu geführt, dass die gefährlichen Falschinformationen über den betroffenen Norweger nicht mehr generiert werden. Dies wird darauf zurückgeführt, dass das Tool nun das Internet nach Informationen durchsucht, anstatt bei fehlenden Daten im Trainingssatz zu halluzinieren. Dennoch bleibt die Sorge bestehen, dass falsche und diffamierende Informationen im Modell gespeichert sein könnten.

Die aktuelle Beschwerde von Noyb zielt darauf ab, die Datenschutzbehörden auf die Gefahren aufmerksam zu machen, die von halluzinierenden KIs ausgehen. Die Organisation argumentiert, dass die Einhaltung der GDPR für KI-Unternehmen zwingend erforderlich ist und dass Halluzinationen gestoppt werden müssen, um Reputationsschäden zu vermeiden. Die Beschwerde wurde bei der norwegischen Datenschutzbehörde eingereicht, in der Hoffnung, dass diese sich für zuständig erklärt, da Noyb die Beschwerde gegen die US-Einheit von OpenAI richtet.

Bestseller Nr. 1 - «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

29,99 EUR

Bestseller Nr. 2 - «KI Gadgets»

Mobvoi TicNote KI Digitales Diktiergerät, 64 GB Speicher, Notizrekorder mit Hülle, App-Steuerung, über 100 Sprachen, Transkribieren, Zusammenfassen mit AI Shadow,digitaler Audiorekorder Sprachrekorder

169,99 EUR

Bestseller Nr. 3 - «KI Gadgets»

PLAUD Note KI Digitales Diktiergerät mit Hülle - 64 GB Aufnahmegerät mit KI-Technologie zum Transkribieren und Zusammenfassen, One-Touch-Aufnahme, Rauschunterdrückung, Unterstützt 112 Sprachen

169,90 EUR

Bestseller Nr. 4 - «KI Gadgets»

KI-Sprachrekorder, PLAUD NotePin Sprachrekorder, App-Steuerung, KI-Notizgerät, KI-Transkription & Zusammenfassung, 112 Sprachen, 64GB Speicher, Audiorekorder für Vorlesungen, Meetings, Kosmisches Grau

169,90 EUR

Bestseller Nr. 5 - «KI Gadgets»

SOXOI KI Digitales Diktiergerät, 64GB Magnet Mini Aufnahmegerä mit ChatGPT 4o vom Transkribieren und Zusammenfassen für 102 Sprachen,One Touch Aufnahme, Voice Recorder Sprachrecorder (Schwarz)

79,99 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!