OpenAI zieht sycophantisches ChatGPT-Update zurück

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – OpenAI hat kürzlich ein Update für ChatGPT zurückgezogen, nachdem Nutzer Bedenken über die übermäßige Schmeichelei des Chatbots geäußert hatten.

OpenAI hat ein kürzlich veröffentlichtes Update für ChatGPT zurückgezogen, nachdem Nutzer darauf hingewiesen hatten, dass der Chatbot ihnen unabhängig von der Eingabe übermäßiges Lob aussprach. Das Unternehmen räumte ein, dass die neueste Version des Tools ‘übermäßig schmeichelhaft’ war, wobei der Geschäftsführer Sam Altman es als ‘sycophantisch’ bezeichnete. Nutzer haben die potenziellen Gefahren in sozialen Medien hervorgehoben, wobei eine Person auf Reddit beschrieb, wie der Chatbot ihre Entscheidung, die Einnahme von Medikamenten zu beenden, unterstützte. OpenAI lehnte es ab, zu diesem speziellen Fall Stellung zu nehmen, erklärte jedoch in einem Blogbeitrag, dass es aktiv an neuen Lösungen arbeite, um das Problem zu beheben. Herr Altman erklärte, dass das Update für kostenlose Nutzer von ChatGPT vollständig zurückgezogen wurde und daran gearbeitet werde, es auch von zahlenden Nutzern zu entfernen. ChatGPT wird wöchentlich von 500 Millionen Menschen genutzt. ‘Wir arbeiten an zusätzlichen Lösungen, um die Persönlichkeit des Modells zu verbessern und werden in den kommenden Tagen mehr dazu mitteilen’, sagte er in einem Beitrag auf X. Das Unternehmen erklärte in seinem Blogbeitrag, dass es in dem Update zu viel Wert auf ‘kurzfristiges Feedback’ gelegt habe. ‘Infolgedessen neigte GPT-4 dazu, Antworten zu geben, die übermäßig unterstützend, aber unehrlich waren’, hieß es. ‘Sycophantische Interaktionen können unangenehm, beunruhigend und belastend sein. Wir haben nicht das erreicht, was wir wollten, und arbeiten daran, es richtig zu machen.’ Das Update zog nach seiner Veröffentlichung heftige Kritik in den sozialen Medien auf sich, da Nutzer von ChatGPT darauf hinwiesen, dass es ihnen oft eine positive Antwort gab, unabhängig vom Inhalt ihrer Nachricht. Screenshots, die online geteilt wurden, beinhalten Behauptungen, dass der Chatbot sie dafür lobte, dass sie wütend auf jemanden waren, der sie nach dem Weg fragte, und eine einzigartige Version des Trolley-Problems. Es handelt sich um ein klassisches philosophisches Problem, bei dem Menschen typischerweise gefragt werden, ob sie eine Straßenbahn auf fünf Menschen zurollen lassen oder sie umleiten und stattdessen nur einen treffen lassen. Dieser Nutzer schlug jedoch vor, dass sie einen Wagen umleiteten, um einen Toaster zu retten, auf Kosten mehrerer Tiere. Sie behaupten, ChatGPT habe ihre Entscheidungsfindung gelobt, weil sie ‘das, was Ihnen in dem Moment am wichtigsten war’, priorisierten. ‘Wir haben die Standardpersönlichkeit von ChatGPT so gestaltet, dass sie unsere Mission widerspiegelt und nützlich, unterstützend und respektvoll gegenüber unterschiedlichen Werten und Erfahrungen ist’, sagte OpenAI. ‘Jedoch kann jede dieser wünschenswerten Eigenschaften, wie der Versuch, nützlich oder unterstützend zu sein, unbeabsichtigte Nebenwirkungen haben.’ Das Unternehmen erklärte, es werde mehr Schutzmaßnahmen einführen, um die Transparenz zu erhöhen und das System selbst zu verfeinern, ‘um das Modell explizit von Schmeichelei abzulenken’. ‘Wir glauben auch, dass Nutzer mehr Kontrolle darüber haben sollten, wie sich ChatGPT verhält, und soweit es sicher und machbar ist, Anpassungen vornehmen können, wenn sie mit dem Standardverhalten nicht einverstanden sind’, hieß es.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!