ZÜRICH / LONDON (IT BOLTWISE) – Ein Bericht von KPMG über „agentenbasierte“ Künstliche Intelligenz für Banken und Bahnen soll laut Verifikation KI-Halluzinationen enthalten. Betroffen sind unter anderem Aussagen zu UBS und den SBB, die inhaltlich nicht stimmen sollen. Der Vorfall wirft ein Schlaglicht auf die Risiken, wenn Teams unzureichend überprüften KI-Output für Business-Case-Darstellungen übernehmen. Für Unternehmen wird damit einmal mehr klar, dass KI-Qualitätssicherung, Daten- und Compliance-Governance bei Publikationen zu den wichtigsten Kontrollpunkten gehören.
Der Fall wirkt auf den ersten Blick wie ein klassischer PR-Fehler – bei näherem Hinsehen ist er jedoch ein Lehrstück für KI-Governance in der Unternehmenswelt. Laut Berichten aus der britischen Presse hat das Beratungsunternehmen KPMG in einem Publikationskonzept über die Vorteile von Künstlicher Intelligenz Formulierungen enthalten, die sich nicht belegen ließen. Besonders kritisch ist, dass es dabei nicht nur um kleine Ungenauigkeiten geht, sondern um Aussagen, die wie konkrete Produkt- und Architekturdetails klingen: KI-Agenten, Plattformen und angeblich „gesetzeskonforme“ Prozesse. Dass solche Inhalte offenbar mit KI-Unterstützung entstanden sind, verschärft die Debatte über Verifikation, Quellenarbeit und Verantwortlichkeit in daten- und regulierungsnahen Organisationen.
Technisch betrachtet ist das Risiko leicht nachvollziehbar: Moderne KI-Systeme, etwa auf Basis von Large-Language-Modellen, können plausibel klingende Texte generieren, auch wenn die enthaltenen Details nicht existieren oder nicht belastbar sind. Diese „Halluzinationen“ treten besonders dann auf, wenn ein Modell aus unvollständigen Kontexten ableiten muss, oder wenn es in einen Stilmodus wechselt, der „Business-Narrative“ priorisiert statt überprüfbarer Fakten. In einem Beratungsdokument können so Behauptungen über Schnittstellen, Entwicklungszusammenarbeit oder konkrete Einsatzgebiete entstehen, ohne dass im Hintergrund belastbare interne Nachweise vorliegen. Für die Praxis heißt das: Prompting ersetzt keine Quellenkette, und Textqualität ersetzt keine technische oder juristische Validierung.
Im konkreten Fall wird berichtet, dass für die UBS Formulierungen zu integrierten KI-Agenten in Anlageberatung, Risikomanagement und Compliance-Überwachung genannt wurden – inklusive einer Plattform, die gemeinsam mit Microsoft entwickelt worden sei. Aus Sicht eines UBS-Sprechers soll das jedoch „faktisch inkorrekt“ gewesen sein. Bei den SBB ging es der Berichterstattung zufolge um KI-Agenten zur Reiseplanung, Buchung und Optimierung anhand von Präferenzen, Echtzeitbedingungen und sogar CO₂-Bilanz. Auch hier soll die Aussage laut Unternehmensstimme „nicht genau“ gewesen sein. Der Markt reagiert in solchen Situationen häufig mit zwei Fragen: Sind die Inhalte reine Übernahmefehler, oder deuten sie auf Lücken in der Modell-zu-Dokument-Übersetzung hin?
Diese Unsicherheit ist auch wirtschaftlich relevant, weil große Beratungen und Technologieanbieter zunehmend in „Agenten“-Storylines investieren. Ein Teil der Branche versucht, den Hype um agentenbasierte Systeme in verwertbare Use Cases zu übersetzen – etwa in Kundenservice, Wissensmanagement oder Prozessautomatisierung. Microsoft und andere Cloud-Anbieter fördern diese Richtung über Plattform- und Modellangebote, während Beratungen Fallstudien liefern, die für CIOs und Fachabteilungen Entscheidungssicherheit schaffen sollen. Wenn solche Fallstudien jedoch nicht belastbar sind, entsteht ein doppelter Reputationsschaden: Erstens gegenüber dem betroffenen Kunden, zweitens gegenüber der eigenen Vertrauensbasis. Experten berichten in der Regel, dass gerade im B2B-Umfeld der Unterschied zwischen „klingt plausibel“ und „ist verifiziert“ betriebswirtschaftlich entscheidend wird.
Historisch ist der Mechanismus nicht neu, aber die Geschwindigkeit ist es. Schon in früheren Content-Workflows konnten Copy-Paste, fehlerhafte Annahmen oder fehlende Freigaben zu inhaltlichen Abweichungen führen. Neu ist, dass Künstliche Intelligenz Text so schnell produziert, dass Prüfprozesse organisatorisch hinterherhinken können. Ergänzend kommt hinzu, dass KI-gestützte Redaktion häufig im „Scheinpräzisions“-Modus arbeitet: Architekturbegriffe, Compliance-Formulierungen und Messgrößen werden mit hoher Sprachsicherheit ausgegeben, ohne dass eine belastbare Systembeschreibung dahintersteht. Genau hier setzt der wirtschaftliche und regulatorische Druck an: In vielen Organisationen wird gerade von der KI-Einführung auf die KI-Governance umgeschaltet, also auf Nachweisbarkeit, Auditierbarkeit und dokumentierte Verantwortlichkeit entlang des gesamten Lebenszyklus.
Für Unternehmen bedeutet der Vorfall vor allem eines: KI-Qualitätssicherung muss als Prozess verstanden werden, nicht als einmalige Modellwahl. Praktisch heißt das, dass Textausgaben aus KI-Systemen vor Veröffentlichung eine Faktenprüfung durchlaufen sollten, die über rein sprachliche Korrektur hinausgeht. Dazu gehören Quellenchecks, Abgleich mit internen Produkt- und Vertragsdaten sowie eine juristische Vorprüfung, wenn Compliance- oder Sicherheitsversprechen gemacht werden. Gerade bei Banken und Infrastrukturbetreibern sind Datenschutz- und Regulierungsanforderungen wie Zweckbindung, Nachweispflichten und Rechenschaftspflichten besonders sensibel. Wenn außerdem „gesetzeskonforme“ Prozesse suggeriert werden, sollte klar sein, welche Kontrollen existieren, welche Daten genutzt werden und wie Risiken gemanagt werden.
Der zukünftige Blick fällt dabei klar auf zwei Richtungen. Erstens werden KI-fähige Redaktionen stärker mit strukturierten Freigabe- und Validierungsmechanismen arbeiten müssen, etwa durch getrennte Rollen für Erstellung, Faktenprüfung und Endfreigabe. Zweitens dürfte die Industrie verstärkt in Trainings und technische Guardrails investieren: vom Retrieval-gestützten Zitieren (also Antworten nur aus verifizierten Dokumenten abzuleiten) bis hin zu automatisierten Konsistenzprüfungen, die unplausible Behauptungen markieren. Marktteilnehmer vergleichen bereits Ansätze wie „Cloud-gestützte“ KI-Workflows gegen „on-device“ oder getrennte Prüf-Umgebungen, um Datenflüsse kontrollierbarer zu machen. Der zentrale Ausblick: Agenten werden in Unternehmen wichtiger, aber nur dann, wenn sie organisatorisch so abgesichert werden, dass Halluzinationen nicht zu Geschäftstexten mit Haftungsrisiko werden.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KPMG-Bericht mit KI-Halluzinationen: Was das für KI-Governance bei Banken heißt" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KPMG-Bericht mit KI-Halluzinationen: Was das für KI-Governance bei Banken heißt" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KPMG-Bericht mit KI-Halluzinationen: Was das für KI-Governance bei Banken heißt« bei Google Deutschland suchen, bei Bing oder Google News!