SAN FRANCISCO / LONDON (IT BOLTWISE) – Salesforce hat eine schwerwiegende Sicherheitslücke in seiner Plattform Agentforce geschlossen, die es Angreifern ermöglichte, sensible CRM-Daten durch eine indirekte Prompt Injection zu exfiltrieren. Die Schwachstelle, bekannt als ForcedLeak, wurde von Noma Security entdeckt und hatte das Potenzial, erhebliche Schäden zu verursachen.
Heutige Tagesdeals bei Amazon! ˗ˋˏ$ˎˊ˗
Salesforce hat kürzlich eine kritische Sicherheitslücke in seiner Plattform Agentforce geschlossen, die es Angreifern ermöglichte, sensible Daten aus dem CRM-System zu exfiltrieren. Diese Schwachstelle, bekannt als ForcedLeak, wurde von Noma Security entdeckt und hatte einen CVSS-Score von 9,4, was auf ihre Schwere hinweist. Die Lücke betraf alle Organisationen, die Agentforce mit der Web-to-Lead-Funktionalität nutzten.
Die Sicherheitslücke nutzte eine indirekte Prompt Injection aus, bei der bösartige Anweisungen in externe Datenquellen eingefügt werden, auf die der Dienst zugreift. Dies führte dazu, dass das System unerwünschte Aktionen ausführte oder verbotene Inhalte generierte. Der Angriffspfad war relativ einfach und nutzte die Beschreibung im Web-to-Lead-Formular, um schädliche Anweisungen auszuführen, die dann sensible Daten an eine von Angreifern kontrollierte Domain übermittelten.
Um diese Schwachstelle zu beheben, hat Salesforce die abgelaufene Domain zurückerworben und Patches implementiert, die verhindern, dass Ausgaben von Agentforce und Einstein AI-Agenten an nicht vertrauenswürdige URLs gesendet werden. Dies geschieht durch die Durchsetzung eines URL-Whitelist-Mechanismus, der sicherstellt, dass keine bösartigen Links aufgerufen oder generiert werden können.
Experten betonen die Bedeutung proaktiver Sicherheitsmaßnahmen im Bereich der Künstlichen Intelligenz. Die ForcedLeak-Schwachstelle zeigt, wie wichtig es ist, KI-Systeme kontinuierlich zu überwachen und zu sichern, um potenzielle Schäden zu vermeiden. Unternehmen sollten bestehende Daten auf verdächtige Einträge überprüfen und strenge Eingabevalidierungen implementieren, um mögliche Prompt Injections zu erkennen.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
Programmierschullehrer (m/w/d) für Algorithmen, Webprogrammierung und KI
Werkstudent*in / Praktikant*in (m/w/d) –Sales mit Fokus KI
AI Architect (gn)
Projektmanager / Spezialist für künstliche Intelligenz (m/w/d)
- Die nächste Stufe der Evolution
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
- Krauss, Patrick(Autor)
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Salesforce schließt kritische Sicherheitslücke in KI-Agenten" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Salesforce schließt kritische Sicherheitslücke in KI-Agenten" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Salesforce schließt kritische Sicherheitslücke in KI-Agenten« bei Google Deutschland suchen, bei Bing oder Google News!