OpenAI passt Sicherheitsmaßnahmen bei Konkurrenzdruck an

SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – OpenAI hat kürzlich Anpassungen an seinem Preparedness Framework angekündigt, das die Sicherheitsmaßnahmen für die Entwicklung und Veröffentlichung von KI-Modellen regelt. Diese Änderungen könnten in Kraft treten, wenn ein konkurrierendes KI-Labor ein “hochriskantes” System ohne vergleichbare Schutzmaßnahmen veröffentlicht.

OpenAI hat in einem kürzlich veröffentlichten Blogbeitrag bekannt gegeben, dass es seine Sicherheitsanforderungen anpassen könnte, falls ein konkurrierendes KI-Labor ein “hochriskantes” System ohne vergleichbare Schutzmaßnahmen auf den Markt bringt. Diese Ankündigung erfolgt vor dem Hintergrund eines zunehmenden Wettbewerbsdrucks in der KI-Branche, der Unternehmen dazu drängt, ihre Modelle schneller zu veröffentlichen.

OpenAI steht in der Kritik, möglicherweise Sicherheitsstandards zugunsten schnellerer Veröffentlichungen zu senken und nicht rechtzeitig Berichte über seine Sicherheitstests zu liefern. Um solchen Vorwürfen entgegenzuwirken, betont OpenAI, dass es diese Anpassungen nicht leichtfertig vornehmen würde und die Schutzmaßnahmen auf einem “schützenderen Niveau” halten würde.

Das Unternehmen erklärt, dass es zunächst rigoros bestätigen würde, dass sich das Risikolandschaft tatsächlich verändert hat, bevor es Anpassungen vornimmt. Zudem würde es öffentlich anerkennen, dass eine Anpassung erfolgt, und sicherstellen, dass diese Anpassung das Gesamtrisiko schwerwiegender Schäden nicht wesentlich erhöht.

Ein weiterer Aspekt der aktualisierten Preparedness Framework ist die verstärkte Nutzung automatisierter Bewertungen, um die Produktentwicklung zu beschleunigen. OpenAI gibt an, dass es zwar nicht vollständig auf menschliche Tests verzichtet hat, jedoch eine wachsende Suite automatisierter Bewertungen entwickelt hat, die mit einem schnelleren Veröffentlichungsrhythmus Schritt halten können.

Berichten zufolge hat OpenAI Testern weniger als eine Woche für Sicherheitsüberprüfungen eines bevorstehenden großen Modells gegeben, was im Vergleich zu früheren Veröffentlichungen eine verkürzte Zeitspanne darstellt. Quellen behaupten auch, dass viele der Sicherheitstests von OpenAI jetzt an früheren Versionen der Modelle durchgeführt werden als an den Versionen, die der Öffentlichkeit zugänglich gemacht werden.

Weitere Änderungen im Rahmen von OpenAIs Framework betreffen die Kategorisierung von Modellen nach Risiko, einschließlich solcher, die ihre Fähigkeiten verbergen, Schutzmaßnahmen umgehen, ihre eigene Abschaltung verhindern und sich sogar selbst replizieren können. OpenAI konzentriert sich nun darauf, ob Modelle eines von zwei Schwellenwerten erreichen: “hohe” Fähigkeit oder “kritische” Fähigkeit.

OpenAIs Definition der ersteren ist ein Modell, das bestehende Wege zu schwerwiegenden Schäden verstärken könnte. Letztere sind Modelle, die beispiellose neue Wege zu schwerwiegenden Schäden einführen. Systeme, die hohe Fähigkeiten erreichen, müssen Schutzmaßnahmen haben, die das damit verbundene Risiko schwerwiegender Schäden ausreichend minimieren, bevor sie eingesetzt werden. Systeme, die kritische Fähigkeiten erreichen, erfordern auch während der Entwicklung Schutzmaßnahmen, die die damit verbundenen Risiken ausreichend minimieren.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!