LONDON (IT BOLTWISE) – OpenAI hat in Zusammenarbeit mit dem neuseeländischen Startup ThroughLine ein neues Interventionsmodell entwickelt, um Nutzer mit extremistischen Tendenzen zu erkennen und an Hilfsangebote zu vermitteln. Diese Initiative ist eine Reaktion auf wachsenden regulatorischen Druck und Sicherheitsvorfälle.
OpenAI hat in Zusammenarbeit mit dem neuseeländischen Startup ThroughLine ein innovatives Interventionsmodell entwickelt, das darauf abzielt, Nutzer mit extremistischen Tendenzen frühzeitig zu erkennen und an Hilfsangebote zu vermitteln. Diese Maßnahme ist eine direkte Reaktion auf den zunehmenden regulatorischen Druck und einen tragischen Sicherheitsvorfall in Kanada, bei dem ein Täter ChatGPT zur Planung eines Anschlags nutzte.
Statt problematische Nutzer einfach zu sperren, verfolgt OpenAI nun einen neuen Ansatz, der auf einer hybriden Intervention basiert. Ziel ist es, Personen mit gewalttätigen Extremismus-Tendenzen noch während der Nutzung des Chats zu identifizieren und sie an professionelle Beratungsdienste weiterzuleiten. Hierbei greift das System auf ThroughLines globales Netzwerk von über 1.600 Hilfetelefonen in 180 Ländern zurück.
Die neue Technologie basiert auf einem speziellen Datensatz von Extremismus-Experten und nicht auf den generischen Daten von GPT-5.4. Erkennt das System verdächtige Muster, wird der Nutzer nicht einfach mit einer Fehlermeldung abgewiesen, sondern erhält Zugang zu einem Interventions-Chatbot und schließlich zu menschlicher Hilfe. Diese Vorgehensweise soll verhindern, dass gefährdete Personen in noch dunklere Ecken des Internets abgedrängt werden.
Im Hintergrund unterstützt die Christchurch Call-Initiative, die nach den Anschlägen von 2019 in Neuseeland gegründet wurde, die Bemühungen von ThroughLine und seinen Partnern. Diese Initiative berät, um Menschenrechtsstandards und bewährte Deradikalisierungs-Praktiken sicherzustellen. Laut Experten könnte der produktivste Einsatz dieser Tools in Gaming-Foren oder als Ressource für besorgte Eltern liegen, die oft erste Warnsignale bei Jugendlichen erkennen.
Die Partnerschaft zwischen OpenAI und ThroughLine könnte als Blaupause dienen, wie der Privatsektor mit dem ethischen Minenfeld der digitalen Radikalisierung umgehen kann. Die Branche bewegt sich weg von reiner Inhaltsmoderation hin zu einem aktiven Erkennen und Umleiten. Die Wirksamkeit dieser Interventions-Chatbots wird in den kommenden Monaten im Fokus stehen. Sollten sie erfolgreich Spannungen deeskalieren und eine Brücke zu menschlicher Hilfe schlagen, könnten sie zum Standard für alle KI-Modelle werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "OpenAI setzt auf hybride Intervention gegen Extremismus" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "OpenAI setzt auf hybride Intervention gegen Extremismus" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »OpenAI setzt auf hybride Intervention gegen Extremismus« bei Google Deutschland suchen, bei Bing oder Google News!