Kalifornien plant neue Transparenzanforderungen für KI-Entwickler

SILICON VALLEY / KALIFORNIEN / LONDON (IT BOLTWISE) – Kalifornien steht kurz davor, als erster US-Bundesstaat umfassende Transparenzanforderungen für führende KI-Entwickler einzuführen. Ein neuer Gesetzesentwurf von Senator Scott Wiener, SB 53, zielt darauf ab, die Sicherheits- und Schutzprotokolle der größten KI-Unternehmen offenzulegen.

Kalifornien könnte bald eine Vorreiterrolle in der Regulierung von Künstlicher Intelligenz einnehmen, indem es umfassende Transparenzanforderungen für führende KI-Entwickler einführt. Der kalifornische Senator Scott Wiener hat kürzlich Änderungen an seinem Gesetzesentwurf SB 53 vorgestellt, die darauf abzielen, die Sicherheits- und Schutzprotokolle der weltweit größten KI-Unternehmen offenzulegen. Sollte das Gesetz verabschiedet werden, wären Unternehmen wie OpenAI, Google und Anthropic verpflichtet, Sicherheitsberichte zu veröffentlichen und Vorfälle zu dokumentieren.

Der vorherige Versuch, mit dem Gesetz SB 1047 ähnliche Anforderungen durchzusetzen, scheiterte am Widerstand aus dem Silicon Valley und wurde letztlich von Gouverneur Gavin Newsom abgelehnt. Im Anschluss daran rief der Gouverneur eine Gruppe von KI-Experten zusammen, darunter die renommierte Stanford-Forscherin Fei Fei Li, um Empfehlungen für die KI-Sicherheitspolitik des Staates zu erarbeiten. Diese Empfehlungen haben maßgeblich die aktuellen Änderungen an SB 53 beeinflusst.

Senator Wiener betont, dass der Gesetzesentwurf noch in Arbeit sei und er in den kommenden Wochen mit allen Beteiligten zusammenarbeiten wolle, um das Gesetz wissenschaftlich fundiert und fair zu gestalten. Ziel ist es, eine Balance zwischen notwendigen Transparenzanforderungen und dem Wachstum der KI-Industrie in Kalifornien zu finden.

Ein weiterer wichtiger Aspekt von SB 53 ist der Schutz von Whistleblowern. Mitarbeiter von KI-Laboren, die der Meinung sind, dass die Technologie ihres Unternehmens ein kritisches Risiko für die Gesellschaft darstellt, sollen geschützt werden. Kritische Risiken werden im Gesetz als solche definiert, die zum Tod oder zur Verletzung von mehr als 100 Personen oder zu Schäden von über einer Milliarde Dollar führen könnten.

Darüber hinaus plant das Gesetz die Schaffung von CalCompute, einem öffentlichen Cloud-Computing-Cluster, der Startups und Forschern bei der Entwicklung groß angelegter KI-Projekte unterstützen soll. Im Gegensatz zu SB 1047 macht der neue Entwurf die Entwickler von KI-Modellen nicht für die Schäden verantwortlich, die ihre Modelle verursachen könnten.

Während Kalifornien mit SB 53 einen neuen Anlauf nimmt, erwägt auch der Bundesstaat New York ein ähnliches Gesetz, den RAISE Act, der ebenfalls Transparenzanforderungen für große KI-Entwickler vorsieht. Diese Entwicklungen auf staatlicher Ebene kommen zu einer Zeit, in der auf Bundesebene ein Vorschlag für ein zehnjähriges Moratorium für staatliche KI-Regulierung gescheitert ist.

Geoff Ralston, ehemaliger Präsident von Y Combinator, betont die Bedeutung von Transparenz und Verantwortlichkeit in der KI-Entwicklung. Er sieht in SB 53 ein Beispiel für durchdachte staatliche Führung in einem Bereich, in dem es auf Bundesebene bisher an ernsthaften Maßnahmen mangelt.

Bislang haben sich KI-Unternehmen gegen staatlich vorgeschriebene Transparenzanforderungen gewehrt. Während Anthropic die Notwendigkeit erhöhter Transparenz anerkennt, haben sich Unternehmen wie OpenAI, Google und Meta skeptischer gezeigt. Dennoch könnte SB 53, selbst in seiner abgeschwächten Form, die Unternehmen dazu zwingen, mehr Informationen preiszugeben als bisher.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!