MÜNCHEN / LONDON (IT BOLTWISE) – Betrüger automatisieren Zahlungsbetrug und streuen dabei KI-vergiftete Daten, um falsche Angebote über Such- und Chat-Ergebnisse zu platzieren. Gleichzeitig verschärft die EU KI-Regulierung den rechtlichen Rahmen für Hochrisiko-Systeme und macht Nachweis- und Sorgfaltspflichten greifbarer. Ein Urteil aus München konkretisiert die Haftung für fehlerhafte KI-Zusammenfassungen. Für Unternehmen bedeutet das: Technische Schutzmaßnahmen müssen künftig stärker mit Compliance, Monitoring und Risiko-Dokumentation verzahnt werden.
Die aktuellen Meldungen verbinden zwei Entwicklungen, die in der Praxis immer enger zusammenrücken: Online-Zahlungsbetrug wird professioneller, und Künstliche Intelligenz (KI) wird gleichzeitig zum Angriffsmittel. Laut einer Adyen-Studie wurden in den vergangenen zwölf Monaten 25% der Deutschen Opfer von Zahlungsbetrug; besonders die Generation Z ist mit 46% betroffen. Der mittlere Schaden liegt bei 394 Euro, während bei Menschen über 70 Jahren im Schnitt 675 Euro zusammenkommen. Dass dabei auch irreführende Gesundheitsinhalte kursieren, erhöht den Schaden nicht nur finanziell, sondern potenziell auch medizinisch.
Technisch setzt ein Teil der Täter auf „AI Poisoning“: Kriminelle vergiften KI-Systeme, indem sie gezielt falsche Daten bereitstellen und so die Qualität von Ausgaben beeinflussen. Das Ziel sind gefälschte Shops, die über Suchergebnisse in KI-gestützten Assistenten und Chat-Oberflächen sichtbar werden. Wie aus Fällen im Ausland bekannt ist, können Täter dabei sogar Verweise auf bekannte Marken imitieren, bis Plattformbetreiber die betreffenden Inhalte entfernen. Branchenbeobachter erwarten, dass solche Muster zeitversetzt auch im deutschsprachigen Raum ankommen – insbesondere dort, wo Unternehmen und Organisationen noch nicht systematisch gegen Datenvergiftung und Prompt-/Retrieval-Manipulation abgesichert sind.
Für die rechtliche Einordnung wird es dadurch anspruchsvoller. Die EU-KI-Verordnung zielt auf klare Pflichten für Anbieter und Nutzer – besonders dann, wenn KI-Systeme als Hochrisiko eingestuft werden. Entscheidend ist weniger die Schlagzeile als der Aufwand, der sich daraus ergibt: Risikoanalysen, technische Dokumentation, Transparenz über Grenzen der Systeme sowie Prozesse für Monitoring und Incident-Response. Diese Anforderungen treffen Unternehmen nicht nur bei der Entwicklung eigener Modelle, sondern zunehmend auch bei der Nutzung externer KI-Komponenten, wenn deren Ausgaben in kritischen Workflows landen.
Ein konkreter Haftungsfall aus München bringt diese Logik auf den Boden. Mitte Juni entschied ein Landgericht, dass Google für fehlerhafte KI-Zusammenfassungen geradestehen muss. Im geschilderten Fall hatte die KI ein Verlagshaus fälschlich mit Betrugsmaschen in Verbindung gebracht, weil sie Informationen aus verschiedenen Quellen zusammenfügte und daraus Schlüsse zog, die in den Originaltexten nicht angelegt waren. Für Unternehmen ist das ein Warnsignal: KI-Ausgaben werden nicht automatisch als „nur Hinweis“ betrachtet, sondern können als handlungsleitend wirken – und damit haftungsrelevant.
Auch der Markt zeigt, dass Täterseite nicht nur nachzieht, sondern skaliert. Berichten zufolge soll ein großer Social-Media-Anbieter 2024 rund zehn Prozent seines Umsatzes mit betrügerischen Anzeigen erzielt haben – ein Hinweis darauf, wie stark sich Betrugsökonomien über Werbeplattformen verankern. Ergänzend setzen Kriminelle zunehmend auf KI-Deepfakes, um Angebote glaubwürdiger zu machen und Vertrauen zu kaufen. Gleichzeitig warnen Fachgesellschaften vor unseriösen Medizinprodukten, etwa bei Blutzuckermessgeräten, die im Netz mit Versprechen vermarktet werden, die sich wissenschaftlich nicht belegen lassen. Das verschiebt die Angriffsflächen: Es geht nicht mehr nur um Zahlung, sondern auch um Vertrauen und Autorität.
Historisch lohnt der Blick zurück, weil er erklärt, warum die jetzige Phase besonders riskant ist. Betrug funktionierte lange über klassische Täuschungsketten wie gefälschte Rechnungen, Phishing oder manipulierte Landingpages. Mit der Verbreitung von Suchmaschinen-Ökosystemen und später von generativen KI-Assistenten verlagert sich die Wirkungskette: Nutzer landen schneller bei „kuratierter“ Information, und die Fehlannahmen wirken plausibler, weil sie in einen konsistenten Textfluss gegossen werden. In der Medizin kommen Informationsdefizite hinzu: Wenn Betroffene Heilversprechen bei chronischen Erkrankungen online nicht kritisch einordnen können, entstehen reale Gesundheitsfolgen – selbst dort, wo es keine belastbaren Studien gibt.
Wie dramatisch solche falschen Versprechen werden können, zeigt ein Fall aus Vietnam, der Mitte Juni bekannt wurde: Ein 68-jähriger Patient mit Lungenkrebs landete nach extremem Fasten und Alkaliwasser im Krankenhaus. Mediziner berichten von einer schweren metabolischen Azidose und Elektrolytstörungen. Sie betonen zugleich, dass es für derartige Methoden keine wissenschaftlichen Belege gibt und dass Patienten ihrem regulären Behandlungsplan folgen sollten. Parallel verdeutlicht eine schwedische Langzeitstudie mit über 870.000 Patienten die langfristigen Risiken bei schlechter Diabeteseinstellung, etwa bei Typ-2-Diabetes: Binnen zehn Jahren verlor fast jeder zweite Patient mindestens einen Zahn. Für Unternehmen folgt daraus: Misinformation ist nicht nur ein PR-Problem, sondern ein Sicherheits- und Sorgfaltsthema.
Trotzdem gibt es auch Gegenbewegungen, die für die Zukunft Hoffnung machen. In der evidenzbasierten Medizin entstehen neue Wege, um Entzündungen nach Herzinfarkten sichtbar zu machen und Therapien stärker zu personalisieren – etwa durch weiterentwickelte PET/CT-Bildgebungstechniken, die in der Fachliteratur berichtet wurden. Auch die Diabeterversorgung für Kinder mit Typ-1-Diabetes zeigt Verbesserungen: Moderne Analoginsuline und strukturierte Schulungen senkten in einer Langzeitanalyse schwere Unterzuckerungen deutlich. Der Kampf gegen Falschinformationen bleibt jedoch eine Daueraufgabe – für Ärzte, für Plattformen und zunehmend auch für die Justiz. In Summe sprechen die Entwicklungen dafür, dass Prävention technisch und juristisch zusammenwachsen muss.
Für die nächsten Schritte in Unternehmen und Organisationen wird die Kernfrage sein, wie man KI-Schutzmaßnahmen in konkrete Betriebsprozesse übersetzt. Aus technischer Sicht werden Monitoring, Qualitätskontrollen und sichere Datenpipelines wichtiger: etwa um Manipulationen an der Informationsbeschaffung zu erkennen, Ausgaben auf Plausibilität zu prüfen und bei Vorfällen schnell zu eskalieren. Gleichzeitig verlangt der regulatorische Rahmen, dass diese Mechanismen dokumentiert und risikobasiert gestaltet werden, statt „nach Bauchgefühl“ zu reagieren. Im Wettbewerb mit immer schnelleren Betrugsmethoden wird sich besonders für Plattformbetreiber und Betreiber medizinischer Portale lohnen, KI-Ausgaben nicht nur aus Nutzersicht zu bewerten, sondern auch aus Haftungs- und Compliance-Perspektive. Wer hier früh investiert, reduziert Folgeschäden und schafft belastbare Nachweise für Prüfungen.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-„AI Poisoning“ und Zahlungsbetrug: Risiken steigen, Haftung wird konkreter" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-„AI Poisoning“ und Zahlungsbetrug: Risiken steigen, Haftung wird konkreter" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-„AI Poisoning“ und Zahlungsbetrug: Risiken steigen, Haftung wird konkreter« bei Google Deutschland suchen, bei Bing oder Google News!