Kalifornien setzt auf neue KI-Regulierung

SILICON VALLEY / KALIFORNIEN / LONDON (IT BOLTWISE) – Kalifornien unternimmt einen weiteren Anlauf, um die Regulierung von KI-Giganten voranzutreiben. Ein kürzlich veröffentlichter Bericht schlägt einen neuen Rahmen für die Entwicklung und Überwachung von KI-Modellen vor.

Kalifornien, bekannt als Zentrum technologischer Innovationen, steht erneut im Fokus der KI-Regulierung. Nachdem der kalifornische Gouverneur Gavin Newsom im letzten Jahr das umstrittene Gesetz SB 1047 abgelehnt hatte, wurde ein neuer Bericht veröffentlicht, der alternative Ansätze zur Regulierung von KI-Modellen vorschlägt. Der Bericht, der von führenden KI-Forschern erstellt wurde, betont die Notwendigkeit von Transparenz und unabhängiger Überprüfung der KI-Modelle.

Der Bericht mit dem Titel „California Report on Frontier Policy“ wurde von renommierten Experten wie Fei-Fei Li von der Stanford University und Mariano-Florentino Cuéllar vom Carnegie Endowment for International Peace verfasst. Er hebt hervor, dass die Fähigkeiten von KI-Modellen, insbesondere in Bereichen wie der Kettenlogik, seit der Ablehnung des Gesetzes erheblich zugenommen haben. Die Autoren argumentieren, dass ohne angemessene Sicherheitsvorkehrungen mächtige KI-Systeme erhebliche und möglicherweise irreversible Schäden verursachen könnten.

Ein zentraler Punkt des Berichts ist die Forderung nach einer stärkeren Einbindung von Drittparteien in die Risikobewertung von KI-Modellen. Diese unabhängigen Bewertungen sollen nicht nur die Sicherheit der Modelle erhöhen, sondern auch ein klareres Bild der potenziellen Risiken zeichnen. Derzeit führen führende KI-Unternehmen wie OpenAI und Google oft eigene Bewertungen durch oder beauftragen externe Dienstleister, was jedoch nicht ausreicht, um die volle Bandbreite der Risiken abzudecken.

Der Bericht betont zudem die Notwendigkeit, die sich schnell ändernden geopolitischen Realitäten zu berücksichtigen. Die Autoren schlagen vor, dass Kalifornien eine führende Rolle bei der Harmonisierung von KI-Regulierungen in den USA einnehmen könnte, um ein Flickenteppich von Gesetzen zu vermeiden, der durch einen möglichen 10-jährigen Moratoriumsvorschlag auf Bundesebene droht.

Ein weiterer wichtiger Aspekt des Berichts ist die Forderung nach einem sicheren Hafen für unabhängige KI-Sicherheitstests. Dies würde Forschern ermöglichen, KI-Modelle auf Sicherheitslücken zu testen, ohne rechtliche Konsequenzen befürchten zu müssen. Eine solche Regelung existiert bereits im Bereich der Cybersicherheit und könnte auch für KI-Tests von großem Nutzen sein.

Die Autoren des Berichts sind sich einig, dass die Regulierung von KI-Modellen nicht die Innovation ersticken sollte. Vielmehr sollten die regulatorischen Anforderungen so gestaltet sein, dass Unternehmen die notwendigen Ressourcen haben, um sie zu erfüllen. Gleichzeitig bleibt die Reduzierung von Risiken oberste Priorität, um die potenziellen Schäden durch KI-Modelle zu minimieren.

Insgesamt zeigt der Bericht, dass Kalifornien bestrebt ist, eine ausgewogene Regulierung von KI-Modellen zu entwickeln, die sowohl die Innovationskraft des Bundesstaates unterstützt als auch die Sicherheit und Transparenz in der KI-Entwicklung gewährleistet. Die kommenden Monate werden zeigen, wie diese Vorschläge in die Praxis umgesetzt werden und ob Kalifornien tatsächlich eine Vorreiterrolle in der KI-Regulierung einnehmen kann.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!