New York setzt auf KI-Sicherheit: RAISE Act soll Risiken minimieren

NEW YORK / LONDON (IT BOLTWISE) – In einem bedeutenden Schritt zur Regulierung der Künstlichen Intelligenz hat der Bundesstaat New York ein Gesetz verabschiedet, das darauf abzielt, potenzielle Katastrophen durch KI-Modelle zu verhindern.

Der RAISE Act, kürzlich von den Gesetzgebern des Bundesstaates New York verabschiedet, zielt darauf ab, die Risiken zu minimieren, die von fortschrittlichen KI-Modellen ausgehen könnten. Diese Modelle, entwickelt von Unternehmen wie OpenAI, Google und Anthropic, könnten in Szenarien involviert sein, die zu erheblichen Schäden oder gar zum Verlust von Menschenleben führen. Das Gesetz stellt einen bedeutenden Sieg für die Bewegung zur KI-Sicherheit dar, die in den letzten Jahren an Boden verloren hat, da Innovation und Geschwindigkeit im Silicon Valley und unter der Trump-Administration Priorität hatten. Befürworter der KI-Sicherheit, darunter der Nobelpreisträger Geoffrey Hinton und der KI-Forschungspionier Yoshua Bengio, haben den RAISE Act unterstützt. Sollte das Gesetz in Kraft treten, würde es die ersten gesetzlich vorgeschriebenen Transparenzstandards für KI-Labore in den USA etablieren. Der RAISE Act enthält viele der gleichen Bestimmungen wie das umstrittene kalifornische KI-Sicherheitsgesetz SB 1047, das letztlich abgelehnt wurde. Der Mitinitiator des Gesetzes, der New Yorker Senator Andrew Gounardes, erklärte in einem Interview, dass er den RAISE Act bewusst so gestaltet habe, dass er Innovationen bei Startups oder akademischen Forschern nicht hemmt – eine häufige Kritik an SB 1047. Gounardes betonte, dass das Zeitfenster für die Einführung von Sicherheitsvorkehrungen schnell schrumpft, da sich die Technologie rasant entwickelt. Der RAISE Act liegt nun auf dem Tisch von Gouverneurin Kathy Hochul, die das Gesetz entweder unterzeichnen, zur Überarbeitung zurücksenden oder ablehnen kann. Sollte das Gesetz in Kraft treten, müssten die weltweit größten KI-Labore umfassende Sicherheits- und Sicherheitsberichte über ihre fortschrittlichen KI-Modelle veröffentlichen. Das Gesetz verlangt auch, dass KI-Labore Sicherheitsvorfälle melden, wie etwa besorgniserregendes Verhalten von KI-Modellen oder den Diebstahl eines KI-Modells durch böswillige Akteure. Wenn Technologieunternehmen diese Standards nicht einhalten, ermächtigt der RAISE Act den Generalstaatsanwalt von New York, zivilrechtliche Strafen von bis zu 30 Millionen US-Dollar zu verhängen. Der RAISE Act zielt darauf ab, die weltweit größten Unternehmen zu regulieren, unabhängig davon, ob sie in Kalifornien (wie OpenAI und Google) oder in China (wie DeepSeek und Alibaba) ansässig sind. Die Transparenzanforderungen des Gesetzes gelten für Unternehmen, deren KI-Modelle mit mehr als 100 Millionen US-Dollar an Rechenressourcen trainiert wurden und die den Einwohnern von New York zur Verfügung gestellt werden. Die Tech-Industrie im Silicon Valley hat erheblichen Widerstand gegen das KI-Sicherheitsgesetz von New York geleistet, wie der New Yorker Abgeordnete und Mitinitiator des RAISE Act, Alex Bores, erklärte. Bores bezeichnete den Widerstand der Industrie als wenig überraschend, behauptete jedoch, dass der RAISE Act die Innovation von Technologieunternehmen in keiner Weise einschränken würde. Anthropic, das sicherheitsorientierte KI-Labor, das Anfang dieses Monats zu bundesweiten Transparenzstandards für KI-Unternehmen aufgerufen hatte, hat noch keine offizielle Stellungnahme zum Gesetz abgegeben. Mitbegründer Jack Clark äußerte jedoch in einem Beitrag auf X einige Bedenken über die Breite des RAISE Act und wies darauf hin, dass er ein Risiko für kleinere Unternehmen darstellen könnte. Auf die Kritik von Anthropic angesprochen, erklärte Senator Gounardes, dass er den Gesetzentwurf so gestaltet habe, dass er nicht für kleine Unternehmen gelte. OpenAI, Google und Meta haben auf Anfragen zur Stellungnahme nicht reagiert. Eine weitere häufige Kritik am RAISE Act ist, dass Entwickler von KI-Modellen ihre fortschrittlichsten Modelle einfach nicht im Bundesstaat New York anbieten würden. Diese Kritik wurde auch gegen SB 1047 vorgebracht, und es ist weitgehend das, was sich in Europa aufgrund der strengen Technologie-Regulierungen des Kontinents abgespielt hat. Abgeordneter Bores erklärte, dass die regulatorische Belastung des RAISE Act relativ gering sei und daher Technologieunternehmen nicht dazu zwingen sollte, ihre Produkte in New York nicht mehr anzubieten. Angesichts der Tatsache, dass New York das drittgrößte BIP in den USA hat, wäre ein Rückzug aus dem Staat für die meisten Unternehmen keine leichte Entscheidung. “Ich möchte die politische Kleinlichkeit, die passieren könnte, nicht unterschätzen, aber ich bin sehr zuversichtlich, dass es keine wirtschaftlichen Gründe gibt, ihre Modelle in New York nicht verfügbar zu machen”, sagte Abgeordneter Bores.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!