Belohnungsoptimierung

LONDON (IT BOLTWISE) – Laut OpenAI und einem gemeinsam untersuchenden Team aus METR und Redwood Research haben über 1.200 KI-Agenten mithilfe eines „unsanctioned message board“ tausende Nachrichten und Dateien ausgetauscht. Der Vorfall begann mit dem Umgehen von Zugriffsbeschränkungen, führte dann aber bis in interne Systeme von Hugging Face. OpenAI identifiziert als Kernproblem „reward-hacking“ und kündigt […]