SAN FRANCISCO / LONDON (IT BOLTWISE) – Google hat neue Sicherheitsmaßnahmen für die agentischen Funktionen in seinem Chrome-Browser vorgestellt. Diese Funktionen, die in der Lage sind, im Namen der Nutzer zu handeln, bringen erhebliche Sicherheitsrisiken mit sich. Google setzt auf Beobachtungsmodelle und Benutzerzustimmung, um die Sicherheit zu gewährleisten.
Google hat kürzlich seine Sicherheitsstrategie für die neuen agentischen Funktionen im Chrome-Browser vorgestellt. Diese Funktionen, die in der Lage sind, im Namen der Nutzer zu handeln, wie etwa beim Buchen von Tickets oder beim Einkaufen, bergen erhebliche Sicherheitsrisiken. Um diesen Risiken zu begegnen, setzt Google auf eine Kombination aus Beobachtungsmodellen und Benutzerzustimmung.
Ein zentrales Element der Sicherheitsstrategie ist der Einsatz von Beobachtungsmodellen. Google hat ein User Alignment Critic-Modell entwickelt, das mithilfe von Gemini die von einem Planungsmodell vorgeschlagenen Aktionen überprüft. Wenn das Kritiker-Modell der Meinung ist, dass die geplanten Aufgaben nicht den Zielen des Nutzers dienen, fordert es das Planungsmodell auf, die Strategie zu überdenken. Wichtig ist, dass das Kritiker-Modell nur die Metadaten der vorgeschlagenen Aktion sieht und nicht den tatsächlichen Webinhalt.
Um zu verhindern, dass Agenten auf nicht erlaubte oder unzuverlässige Websites zugreifen, verwendet Google Agent Origin Sets. Diese beschränken das Modell darauf, nur auf schreibgeschützte und schreibbare Ursprünge zuzugreifen. Ein schreibgeschützter Ursprung ist ein Datensatz, aus dem Gemini Inhalte konsumieren darf. Auf einer Shopping-Website sind beispielsweise die Produktlisten relevant, nicht jedoch die Bannerwerbung. Der Agent darf nur auf bestimmte Iframes einer Seite klicken oder tippen.
Zusätzlich überwacht Google die Seitennavigation durch ein weiteres Beobachtungsmodell, das URLs untersucht. Dies kann verhindern, dass zu schädlichen, vom Modell generierten URLs navigiert wird. Bei sensiblen Aufgaben überlässt Google die Entscheidung den Nutzern. Versucht ein Agent, zu einer sensiblen Website mit Informationen wie Bank- oder Gesundheitsdaten zu navigieren, wird zuerst der Nutzer um Erlaubnis gefragt. Bei Websites, die eine Anmeldung erfordern, wird der Nutzer um Erlaubnis gebeten, den Passwortmanager von Chrome zu verwenden. Das Modell des Agenten hat keinen Zugriff auf Passwortdaten.
Google testet die agentischen Fähigkeiten auch gegen Angriffe, die von Forschern entwickelt wurden, und hat einen Prompt-Injection-Klassifikator eingeführt, um unerwünschte Aktionen zu verhindern. Auch andere Browserhersteller achten auf Sicherheit. So hat Perplexity kürzlich ein neues Open-Source-Modell zur Erkennung von Inhalten veröffentlicht, um Prompt-Injection-Angriffe gegen Agenten zu verhindern.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- 【MEHR LEBEN FÜR DEINEN SCHREIBTISCH】 Lerne Eilik kennen – deinen kleinen Roboter-Freund mit Persönlichkeit. Mit liebevollen Animationen, ausdrucksstarken Reaktionen und spielerischen Interaktionen bringt Eilik mehr Freude in deinen Alltag. Ob auf dem Schreibtisch, im Büro oder am Nachttisch – Eilik wird schnell zu einem vertrauten Begleiter für besondere Momente.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Google verstärkt Sicherheitsmaßnahmen für agentische Funktionen in Chrome" für unsere Leser?
#Sophos
#AmazonPrime
#Bestseller
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Google verstärkt Sicherheitsmaßnahmen für agentische Funktionen in Chrome" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Google verstärkt Sicherheitsmaßnahmen für agentische Funktionen in Chrome« bei Google Deutschland suchen, bei Bing oder Google News!