KI-Unternehmen müssen Sicherheitsrisiken berechnen, um Kontrolle zu behalten

MÜNCHEN (IT BOLTWISE) – Die Entwicklung von Künstlicher Intelligenz (KI) schreitet rasant voran, und mit ihr wächst die Sorge um die Kontrolle über diese mächtigen Systeme.

Die Diskussion um die Sicherheit von Künstlicher Intelligenz (KI) hat eine neue Dimension erreicht, da führende Experten die Unternehmen auffordern, die potenziellen Risiken von Superintelligenz zu berechnen. Max Tegmark, ein prominenter Forscher auf dem Gebiet der KI-Sicherheit, hat Berechnungen durchgeführt, die an die Sicherheitsüberlegungen von Robert Oppenheimer vor dem ersten Atomtest erinnern. Tegmark fand heraus, dass es eine 90-prozentige Wahrscheinlichkeit gibt, dass eine hochentwickelte KI eine existenzielle Bedrohung darstellen könnte. Diese Erkenntnisse basieren auf der sogenannten ‘Compton-Konstante’, die das Risiko beschreibt, dass eine allmächtige KI die Kontrolle der Menschen entgleitet. In einem kürzlich veröffentlichten Papier empfiehlt Tegmark, dass KI-Unternehmen diese Konstante berechnen sollten, um die politische Bereitschaft zu schaffen, globale Sicherheitsregime für KI zu vereinbaren. Die Dringlichkeit dieser Berechnungen wird durch die rasante Entwicklung von KI-Systemen unterstrichen, die immer leistungsfähiger werden und deren Verhalten kaum vorhersehbar ist. Die Veröffentlichung von ChatGPT hat eine neue Ära der KI-Entwicklung eingeläutet, die von einem Wettlauf um die Einführung immer mächtigerer digitaler Systeme geprägt ist. In diesem Kontext haben sich Experten aus verschiedenen Bereichen zusammengefunden, um neue Ansätze für die sichere Entwicklung von KI zu erarbeiten. Der ‘Singapore Consensus on Global AI Safety Research Priorities’ hebt drei Hauptbereiche hervor: die Entwicklung von Methoden zur Messung der Auswirkungen aktueller und zukünftiger KI-Systeme, die Spezifikation des gewünschten Verhaltens von KI und die Kontrolle ihres Verhaltens. Diese Bemühungen zielen darauf ab, die internationale Zusammenarbeit zu stärken und die Sicherheitsbedenken zu adressieren, die auf dem jüngsten KI-Gipfel in Paris geäußert wurden. Tegmark betont, dass die düstere Stimmung von Paris gewichen ist und die internationale Zusammenarbeit wieder an Fahrt gewinnt.

Bestseller Nr. 1 ᵃ⤻ᶻ «KI Gadgets»

Apple AirTag - Finde und behalte Deine Sachen im Blick: Schlüssel, Geldbörsen, Gepäck, Rucksäcke und mehr. Einfaches Einrichten mit iPhone oder iPad. Austauschbare Batterie

30,99 EUR

Bestseller Nr. 2 ᵃ⤻ᶻ «KI Gadgets»

Vikye KI -Roboter Angetrieben von Deepseek, Smart Talking Desk Companion mit 1,28 "Bildschirm, Sprachsteuerung, WLAN -Wetteruhr und Bluetooth Music Player

30,50 EUR

Bestseller Nr. 3 ᵃ⤻ᶻ «KI Gadgets»

ZOOI Geschenke für Männer, Geburtstagsgeschenk für Männer, Gadgets für Männer, Geschenke für Papa Geschenk Männergeschenk Adventskalender Füllung Männer, Bluetooth Lautsprecher mit Handyständer

17,84 EUR

Bestseller Nr. 4 ᵃ⤻ᶻ «KI Gadgets»

QCOQ® Air Tags 4er Pack Schwarz, Schlüsselfinder & Air Tracker Tagg Kompatibel mit Apple Wo ist? App (Nur iOS), Smart Key Finder mit Schlüsselband, Koffer-Tracker für Taschen/Keys, Austauschbarer Akku

29,99 EUR

Bestseller Nr. 5 ᵃ⤻ᶻ «KI Gadgets»

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

169,00 EUR

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!