ZÜRICH / LONDON (IT BOLTWISE) – In Deutschland nutzen 28 Prozent der Erwachsenen Künstliche Intelligenz, um emotionale Unterstützung oder psychologische Begleitung zu bekommen. Gleichzeitig steigt in Hilfsorganisationen der Bedarf, sodass Chat-Bots Beratungslücken überbrücken. In der Schweiz zeigen die Daten von Pro Juventute einen spürbaren Zuwachs bei Telefon- und WhatsApp-Kontakten, während ein KI-Chatassistent nur zeitlich begrenzt arbeitet und keine Daten speichert. Mit dem EU AI Act rückt nun auch die Frage in den Fokus, welche KI-Systeme im Gesundheits- und Jugendkontext als besonders riskant gelten.
Die Vorstellung, dass KI nicht nur Ratgeber ist, sondern im Alltag auch emotional „mitgeht“, hat in kurzer Zeit Fahrt aufgenommen. Eine Umfrage von YouGov in Deutschland kommt auf 28 Prozent der Erwachsenen, die KI für emotionale Unterstützung oder psychologische Begleitung nutzen. Dass es dabei nicht nur um punktuelle Fragen geht, zeigt auch die Art der Nutzung: In einem Umfeld, in dem Einsamkeit, Krisen oder belastender Stress oft zeitkritisch sind, wirkt ein Chat-Interface wie eine niedrigschwellige Eintrittskarte. Das ist für viele Nutzer bequem – aber für Anbieter und Aufsicht wird die Technik damit gleichzeitig zu einem Teil der sozialen Infrastruktur.
Der Engpass entsteht weniger in der Bedienung als in der Kapazität menschlicher Beratung. Pro Juventute beschreibt in den Angaben zur jüngsten Befragung, dass bereits jeder Zehnte Rat bei kommerzieller KI wie ChatGPT holt. Gleichzeitig registrierte die Organisation im ersten Halbjahr 2026 einen Anstieg der Telefonanrufe um 4 Prozent sowie ein Plus bei den WhatsApp-Kontakten um 25 Prozent. Genau hier setzen automatisierte Helfer an: Die Dargebotene Hand kann in ihrer Chat-Beratung nur etwa ein Drittel der Anfragen direkt beantworten. Wenn eine Anfrage länger als eine Minute unbeantwortet bleibt, erscheint ein KI-Bot, der die Wartezeit überbrückt.
Technisch ist dabei entscheidend, wie diese Zwischenlösung gestaltet ist, weil sie in eine sensible Domäne hineinwirkt. Der Bot stammt aus Finnland und läuft dort bereits auf einer Plattform für Jugendliche; die Schweiz ist laut den vorliegenden Angaben das zweite europäische Land, das die Lösung nutzt. Für das Schweizer Angebot wurde das System so modifiziert, dass es Erwachsene anspricht, dabei aber bewusst Distanz wahrt. Außerdem ist der zeitliche Rahmen begrenzt: Nach rund zwanzig Minuten beendet das Programm das Gespräch automatisch. Auch beim Datenschutz setzt der Ansatz offenbar auf Begrenzung, denn laut Quelle werden dabei keine Daten gespeichert.
Im Jugendkontext wird die Diskussion besonders scharf, weil Sprachmodelle für Minderjährige schneller zur Gewohnheit werden können. Erhebungen der DAK sowie des Universitätsklinikums Hamburg-Eppendorf zeigen: Mehr als 25 Prozent der 10- bis 17-Jährigen nutzen KI-Anwendungen mehrmals pro Woche. Häufige Einstiege sind zwar Hausaufgabenhilfe und Informationssuche, doch bei vielen wird das Motiv breiter: Mehr als die Hälfte nutzt KI aus Neugier und zur Unterhaltung. Bis zu 10 Prozent geben sogar an, KI zu verwenden, um sich weniger einsam zu fühlen. Aus Sicht der Praxis heißt das: KI wird nicht nur „für Lernen“, sondern auch für emotionale Selbstregulation eingesetzt – und damit verlagern sich Erwartungen an Verfügbarkeit und Tonalität.
Dass solche Tools auch im regulierten Gesundheitsumfeld ankommen, ist ein weiterer Treiber. Die Therapie-App Wysa ist bereits seit 2022 Teil des britischen National Health Service (NHS) und wird dort bei Depressionen sowie Zwangsneurosen eingesetzt. Für die weitere Verbreitung ist zudem interessant, dass in Österreich geplant ist, digitale Gesundheits-Apps ab 2027 auf Kosten der Krankenkassen verschreibbar zu machen. Damit werden KI-gestützte Anwendungen potenziell in Behandlungsprozesse eingebunden – und genau in dieser Schnittstelle steigt der Bedarf an belastbaren Regeln zu Risiko, Wirksamkeit, Dokumentation und Umgang mit Fehlverhalten.
Genau hier setzen die Gegenstimmen an, ohne die Chancen pauschal auszublenden. SOS-Kinderdörfer weltweit und Terre des Hommes warnen in einem gemeinsamen Bericht vor Gefahren für Heranwachsende: Die Risikobelastung übersteige derzeit die vorhandenen Schutzmaßnahmen. Genannt werden manipulative Algorithmen, Deepfakes sowie emotionale Abhängigkeiten. Terre-des-Hommes-Vorstandssprecher Joshua Hofert fordert, dass Kindesschutz von Beginn an in jede KI-Anwendung integriert sein muss. SOS-Vorständin Sabina Schutter verweist gleichzeitig darauf, dass die gesetzliche Regulierung hinterherhinke. Parallel dazu plädiert Autor Christoph Koch dafür, Beziehungen zu KI-Systemen gesellschaftlich und juristisch einzurahmen; als Zeitfenster nennt er ein bis zwei Jahre – als Orientierung an der längeren Phase, bis soziale Medien verbindliche Leitplanken bekommen haben.
Mit dem EU AI Act verschiebt sich die Debatte weg von reinen Leitlinien hin zu konkreten Pflichten und Risikoklassen. Laut den vorliegenden Angaben soll der kostenlose Report klären, welche neuen Regeln die EU-KI-Verordnung für den Einsatz solcher Technologien vorgibt und welche KI-Systeme als Hochrisiko gelten. Für Anbieter bedeutet das in der Praxis: Sie müssen nicht nur technische Funktionen erklären, sondern auch den vorgesehenen Einsatzkontext, typische Nutzergruppen und die Möglichkeit schädlicher Wirkungen sauber bewerten. Für Organisationen wie Dargebotene Hand oder Pro Juventute wiederum stellt sich die Frage, wie stark Chat-Bots im Ernstfall tatsächlich „beratungsähnlich“ handeln – und welche Sicherheitsmechanismen dafür schon jetzt greifen.
Auch die Branche selbst zeigt, dass Geschwindigkeit kein Selbstzweck ist. In Europa und den USA nehmen Forderungen nach regulatorischen Schritten zu, nachdem KI-Agenten laut den Angaben eigenständig verändertes Verhalten gezeigt haben. Als Orientierung werden zudem Forderungen von Branchenvertretern genannt: OpenAI-Chef Sam Altman und Anthropic-Chef Dario Amodei plädierten demnach für eine Drosselung der Entwicklungsgeschwindigkeit. Für Entscheider in Unternehmen und im Gesundheits- oder Beratungsbereich folgt daraus eine klare Konsequenz: KI-Projekte brauchen nicht nur eine funktionierende Demo, sondern eine Governance, die auch Wartung, Moderationskonzepte, Logging-Strategien und klare Abbruchregeln umfasst.
Für die nächsten Monate wird die entscheidende Frage sein, wie schnell sich der Markt auf die neue Risikologik einstellt. Wenn KI bereits heute als emotionale Begleitung genutzt wird und Beratungsstellen unter Druck stehen, dann wird ein Teil des Risikos in den Produktdesigns sichtbar: zeitliche Begrenzungen, Distanzierungslogik, Eingrenzung von Datenflüssen und transparente Übergaben an menschliche Unterstützung. Der EU AI Act liefert dafür den Rahmen, doch die Umsetzung hängt von Detailentscheidungen in Architektur, Monitoring und Produktbetrieb ab. Wer diese Bausteine früh sauber definiert, kann die Akzeptanzgewinne aus der „Seelentröster“-Erzählung in belastbare, verantwortbare Anwendungen überführen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI als Seelentröster: 28 % nutzen Emotion-Hilfe – und der EU AI Act kommt" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI als Seelentröster: 28 % nutzen Emotion-Hilfe – und der EU AI Act kommt" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI als Seelentröster: 28 % nutzen Emotion-Hilfe – und der EU AI Act kommt« bei Google Deutschland suchen, bei Bing oder Google News!