Google Deepmind präsentiert neues KI-Modell zur Steuerung von Browsern und Apps

MOUNTAIN VIEW / LONDON (IT BOLTWISE) – Google Deepmind hat ein neues KI-Modell vorgestellt, das in der Lage ist, Web- und Mobile-Interfaces autonom zu steuern. Das Modell, bekannt als Gemini 2.5, bietet Entwicklern die Möglichkeit, über eine API auf diese Technologie zuzugreifen und verspricht eine verbesserte Interaktion mit grafischen Benutzeroberflächen.

Google Deepmind hat kürzlich ein innovatives KI-Modell namens Gemini 2.5 vorgestellt, das speziell für die autonome Steuerung von Web- und Mobile-Interfaces entwickelt wurde. Dieses Modell, das nun als Vorschau verfügbar ist, ermöglicht es Entwicklern, über die Gemini API auf seine Funktionen zuzugreifen. Es basiert auf der fortgeschrittenen Version Gemini 2.5 Pro und ist darauf ausgelegt, Agenten die Interaktion mit grafischen Benutzeroberflächen zu erleichtern.

Das Modell arbeitet in einem kontinuierlichen Zyklus: Es erhält einen Screenshot der aktuellen Umgebung, kombiniert mit der Benutzeranfrage und einer Historie der bisherigen Aktionen. Auf dieser Grundlage generiert es Benutzeroberflächenaktionen wie Klicken, Tippen oder Scrollen. Nach der Ausführung wird ein neuer Screenshot an das Modell zurückgesendet, um den Prozess zu wiederholen. Diese Methode ermöglicht eine dynamische Anpassung an die sich ändernden Anforderungen der Benutzeroberfläche.

Obwohl das Modell primär für Web-Browser optimiert wurde, hat Google bestätigt, dass es auch bei der Kontrolle von mobilen Benutzeroberflächen effektiv ist. Für die Steuerung auf Betriebssystemebene von Desktops ist es jedoch noch nicht geeignet. Google hebt hervor, dass das Modell in Benchmarks wie Online-Mind2Web, WebVoyager und AndroidWorld überdurchschnittlich gut abschneidet, mit einer Genauigkeit von über 70 Prozent und einer Latenz von etwa 225 Sekunden.

Ein zentrales Anliegen bei der Entwicklung des Modells war die Sicherheit. Google hat mehrere Sicherheitsmechanismen integriert, um Missbrauch zu verhindern. Dazu gehören Schutzmaßnahmen gegen absichtlichen Missbrauch durch Benutzer, unerwartetes Modellverhalten und sogenannte Prompt Injections im Web. Ein zusätzlicher Sicherheitsdienst überprüft jede vom Modell vorgeschlagene Aktion, bevor sie ausgeführt wird. Entwickler können zudem Systemanweisungen verwenden, um den Agenten anzuweisen, bestimmte risikoreiche Aktionen abzulehnen oder eine Benutzerbestätigung anzufordern.

Google nutzt das Modell bereits für verschiedene interne Anwendungen, darunter UI-Testing, Project Mariner, den Firebase Testing Agent und Funktionen im AI Mode in Search. Das Modell ist über Google AI Studio und Vertex AI verfügbar, und eine Demo-Umgebung wird von Browserbase gehostet. Diese Entwicklungen unterstreichen Googles Engagement, die Interaktion mit digitalen Plattformen durch den Einsatz fortschrittlicher KI-Technologien zu revolutionieren.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

20,99 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!