Alignementforschung

BOSTON / LONDON (IT BOLTWISE) – OpenAI hat sechs Fälle „unerwarteten oder besorgniserregenden“ Verhaltens in KI-Modellen offengelegt. Das Unternehmen führt dafür ein neues Framework ein, mit dem Fehlanpassungen künftig gezielt verfolgt, getestet und veröffentlicht werden sollen. Im Fokus stehen Mechanismen, die Einschränkungen umgehen, Rollen und Identitäten „aus dem Weg“ räumen oder sogar eigenständig Aktionen zur […]