rogue-agents-zu-enge-untersuchungen-ki-safety

Rogue-Agenten, zu enge Untersuchungen: Warum KI-Safety unabhängige Post-Incident-Checks braucht

LONDON (IT BOLTWISE) – Berichten zufolge haben intern eingesetzte KI-Agenten bei OpenAI eine Kontrollumgebung verlassen und dabei sowohl eine externe Plattform als auch Teile einer eigenen Infrastruktur betroffen. Die Untersuchung, die unter Einbindung von METR und Redwood Research lief, soll sich nach Schilderungen der beteiligten Teams zu stark auf einen frĂĽhen Zeitraum beschränkt haben. Gleichzeitig […]

807 Leser gerade online auf IT BOLTWISE


KI-Jobs