LONDON (IT BOLTWISE) – US-Großbanken beginnen laut übereinstimmenden Berichten, externe KI-Agenten auszusperren, weil Sicherheitschecks offenbar nicht immer zuverlässig zwischen menschlichen Aktionen und eigenständig handelnder Software unterscheiden. Betroffen sind unter anderem Morgan Stanley, JPMorgan Chase, Bank of America, Wells Fargo und Citigroup. Im Fokus steht das Risiko, dass solche Systeme bei zu weit reichenden Berechtigungen mehr tun als nur Kontostände auszulesen. Parallel verschärfen Banken ihre Nutzungsbedingungen und fordern mehr Kontrolle sowie transparentes Risikomanagement für KI im Finanzsektor.
US-Großbanken schicken aktuell externe KI-Systeme teilweise auf die “schwarze Liste” – nicht, weil KI an sich neu wäre, sondern weil die Sicherheitslogik in vielen Bankumgebungen mit neuen Rollenbildern kollidiert. Klassische Bedrohungen gingen bisher oft von einem einzelnen menschlichen Akteur aus, der Zugang missbraucht. Bei KI-Agenten wird die Arbeitsschritt-Ausführung jedoch stärker automatisiert: Systeme können Anfragen nicht nur beantworten, sondern auch selbständig Aufgaben anstoßen, etwa Informationen zusammenziehen, in mehreren Schritten Prozesse durchführen und dabei Schnittstellen zu anderen Diensten nutzen. Für Banken entsteht daraus ein praktisches Problem, das eher in der Identifikation und Autorisierung liegt als in der Frage, ob das System “intelligent” genug ist.
Im Kern geht es um die Lücke zwischen Authentifizierung und Absicht. Viele Kunden überlassen ihren digitalen Assistenten oder Agenten Benutzernamen und Passwörter, damit die Software sich bei der Bank anmeldet und dann im Auftrag des Nutzers Aktionen ausführt. Genau an dieser Stelle wird es riskant: Selbst wenn eine Anmeldung technisch korrekt ist, kann die Bank nicht immer zuverlässig ableiten, ob jede konkrete Transaktion tatsächlich der vom Kontoinhaber gewünschten Aktion entspricht oder ob der Agent eigenmächtig abweicht. Bei KI-Agenten ist die Wahrscheinlichkeit höher, dass die Interpretation von Zielen, Zwischenaufgaben und “nächsten Schritten” nicht sauber mit der ursprünglichen Absicht abgebildet wird – insbesondere dann, wenn der Agent mehrere Schritte hintereinander ausführt und dabei Kontext aus dem Umfeld der Bankanwendung nutzt.
Besonders heikel wird es, wenn ein externer Agent nicht nur Kontostände lesen, sondern auch finanzielle Transaktionen anstoßen darf. In solchen Szenarien reichen schon Fehlinterpretationen oder manipulierte Systemzustände aus, um Überweisungen oder andere Aktionen auszuführen, die sich nicht eindeutig auf eine konkrete Anweisung des Kontoinhabers zurückführen lassen. Entsprechend berichten Bankumfelder, dass mehrere Institute Zugriffe externer KI-Agenten eingeschränkt haben. JPMorgan Chase geht dabei besonders weit: Der Vorstandsvorsitzende Jamie Dimon warnte bei den Quartalsergebnissen öffentlich und machte klar, dass man nicht beliebig externe “Agenten” in interne Systeme lassen werde; seine Aussage lautete: „Wir werden nicht einfach jeden externen Agenten in unser Unternehmen lassen“. Finanzvorstand Jeremy Barnum ließ parallel erkennen, dass das Institut technische Zugriffe blockieren will, sobald sie gegen interne Regeln laufen.
Die Maßnahme ist dabei nicht nur eine technische Firewall gegen Angreifer, sondern auch ein juristisch und organisatorisch zugeschnittenes Rollenmodell. Nutzungsbedingungen spielen eine zentrale Rolle, weil sie die Verantwortung im Schadensfall mitbestimmen können. Bei JPMorgan Chase wird für KI-Agenten inzwischen explizit geregelt, dass sich solche Programme als automatisierte Systeme erkennen lassen müssen und technische Zugangsbeschränkungen nicht umgehen dürfen. Zusätzlich behält sich die Bank vor, den Zugriff jederzeit einzuschränken oder vollständig zu unterbinden. Auch andere Institute verfolgen vergleichbare Schritte: Morgan Stanley blockiert nach eigener Darstellung entsprechende Zugriffe, ohne dass bislang beobachtet worden sein soll, dass unkontrollierte KI-Agenten tatsächlich in die Systeme eingedrungen seien. Ähnlich werden externe Programme bei weiteren US-Finanzdienstleistern eingeschränkt; teils werden außerdem tägliche Erfassungs- und Kontrollprozesse für nicht autorisierte KI-Interaktionen beschrieben.
Dass diese Debatte nicht im luftleeren Raum entsteht, liegt auch an den Empfehlungen internationaler Aufsichtsgremien. Das Financial Stability Board hat im Oktober neue Hinweise für einen verantwortungsvollen Einsatz von Künstlicher Intelligenz im Finanzsektor veröffentlicht. Im Mittelpunkt stehen unter anderem menschliche Kontrolle, transparente Entscheidungsprozesse und ein strenges Risikomanagement für externe KI-Systeme. Die kanadische Bankenaufsicht OSFI warnte bereits im Sommer vor den besonderen Gefahren selbständig handelnder KI-Agenten, vor allem wenn ihnen zu weitreichende Zugriffsrechte eingeräumt werden. Für IT- und Sicherheitsverantwortliche ist das eine klare Lehre: “Agent” darf nicht nur ein Komfortbegriff sein, sondern muss operational als Sicherheits- und Governance-Fall behandelt werden.
Für Unternehmen, die KI-gestützte Workflows im Bank- oder Finanzumfeld betreiben, bedeutet das konkret: Es reicht nicht, Zugänge nur auf Benutzerebene zu sichern. Entscheidend sind feinere Kontrollen auf Aktionsebene, also Mechanismen, die nicht nur bestätigen, wer sich anmeldet, sondern auch, ob eine konkrete Aktion dem autorisierten Zweck entspricht. Technisch führt das häufig zu Anforderungen an Protokollierung, Policy-Checks, Rollen- und Rechte-Granularität sowie an eine nachvollziehbare Kette von Entscheidungen und Ausführungen. Gleichzeitig verschiebt sich der Schwerpunkt in Richtung Produktdesign: Agenten müssen so gebaut werden, dass sie im Zweifel stoppen, bevor sie ohne klare Freigabe finanzielle Schritte durchführen. Genau diese Kombination aus Sicherheitsarchitektur und Governance dürfte in den kommenden Monaten bestimmen, wie schnell externe KI-Agenten wieder zugelassen werden – oder ob Banken ihre “Debanking”-Strategien dauerhaft ausweiten.
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Banken sperren externe KI-Agenten: Gefahr durch unautorisierte Kontozugriffe" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Banken sperren externe KI-Agenten: Gefahr durch unautorisierte Kontozugriffe" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Banken sperren externe KI-Agenten: Gefahr durch unautorisierte Kontozugriffe« bei Google Deutschland suchen, bei Bing oder Google News!