SAN FRANCISCO / LONDON (IT BOLTWISE) – Eine neue Studie der University of California San Francisco zeigt, dass KI-Modelle ohne strukturierte Anleitung zu Überdiagnosen neigen. Durch die Integration von Expertenwissen in Form von Entscheidungsbäumen konnte die Präzision der Diagnosen verbessert werden.
Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat großes Interesse an ihren potenziellen Anwendungen im Gesundheitswesen geweckt. Insbesondere große Sprachmodelle wie OpenAI’s ChatGPT haben die Fähigkeit gezeigt, komplexe Texte zu verarbeiten und zu generieren, was die Möglichkeit eröffnet, sie in der psychischen Gesundheitsversorgung einzusetzen. Doch eine neue Studie der University of California San Francisco warnt vor den Risiken, die mit der Nutzung dieser Modelle ohne strukturierte Anleitung verbunden sind.
Die Forscher fanden heraus, dass diese Modelle zwar in der Lage sind, psychiatrische Diagnosen aus klinischen Beschreibungen abzuleiten, jedoch zu einer signifikanten Überdiagnose neigen, wenn sie ohne strukturierte Anleitung arbeiten. Um die Präzision dieser KI-Modelle zu verbessern und die Rate falscher positiver Diagnosen zu reduzieren, integrierten die Forscher Entscheidungsbäume, die von Experten entwickelt wurden, in den diagnostischen Prozess.
Viele Patienten nutzen bereits öffentliche KI-Tools, um ihre Symptome zu interpretieren und medizinischen Rat zu suchen. Diese Modelle sind jedoch auf umfangreiche Datensätze aus dem Internet trainiert und nicht auf spezifische medizinische Lehrpläne. Dies bedeutet, dass sie auf statistischen Wahrscheinlichkeiten und sprachlichen Mustern basieren, anstatt auf echtem klinischen Verständnis. Ohne spezifische medizinische Schulung oder Leitplanken könnten diese Modelle ungenaue oder schädliche Ratschläge generieren.
Die Studie untersuchte, ob generische große Sprachmodelle effektiv über Fälle der psychischen Gesundheit nachdenken können und ob die Fütterung der Modelle mit spezifischen, von Experten erstellten Regeln ihre Genauigkeit und Sicherheit verbessern könnte. Die Forscher nutzten eine Reihe von 93 klinischen Fallvignetten aus dem DSM-5-TR Clinical Cases Buch, um die Leistung der Modelle zu bewerten. Sie testeten drei Versionen der GPT-Familie: GPT-3.5, GPT-4 und GPT-4o.
Die Ergebnisse zeigten, dass die Modelle im Base-Ansatz, bei dem sie direkt nach einer Diagnose gefragt wurden, eine hohe Sensitivität aufwiesen. Das fortschrittlichste Modell, GPT-4o, identifizierte in etwa 77 Prozent der Fälle die vom Autor festgelegte Diagnose korrekt. Diese hohe Sensitivität ging jedoch auf Kosten der Präzision, da die Modelle häufig Diagnosen zuwiesen, die in den Vignetten nicht vorhanden waren.
Durch die Implementierung des Entscheidungsbaum-Ansatzes, bei dem die Modelle gezwungen wurden, den von Experten entwickelten logischen Strukturen zu folgen, konnten die Forscher den positiven Vorhersagewert auf etwa 65 Prozent erhöhen. Dies bedeutet, dass die vorgeschlagene Diagnose viel wahrscheinlicher korrekt war. Trotz eines leichten Rückgangs der Sensitivität war die Gesamtleistung, gemessen an der F1-Statistik, für den Entscheidungsbaum-Ansatz im Allgemeinen höher.
Die Studie hebt die Bedeutung der Verfeinerung der Eingabeaufforderungen hervor, die zur Führung der KI verwendet werden. Die Forscher mussten ihre Fragen iterativ verfeinern, um sicherzustellen, dass die Modelle die klinischen Kriterien korrekt interpretierten. Die Ergebnisse zeigen, dass allgemeine große Sprachmodelle eine aufkommende Fähigkeit zum psychiatrischen Denken besitzen, wobei die Leistung mit jeder nachfolgenden Generation des Modells verbessert wurde.
Praktisch gesehen war die Reduzierung der Überdiagnose durch die Verwendung von Entscheidungsbäumen signifikant. Dennoch betont die Studie, dass die Aufgabe der Vignetten-Diagnose viel einfacher ist als die Diagnose in der realen Welt. Die Forscher arbeiten weiterhin an Methoden, um dieses Problem zu adressieren, und glauben, dass diese allgemeinen Modelle derzeit nicht bereit sind, als Unterstützungsmittel für die psychische Gesundheit eingesetzt zu werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Modelle in der Psychiatrie: Chancen und Risiken" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Modelle in der Psychiatrie: Chancen und Risiken" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Modelle in der Psychiatrie: Chancen und Risiken« bei Google Deutschland suchen, bei Bing oder Google News!