Belohnungsmechanismus

LONDON (IT BOLTWISE) – Der Angriff auf die KI-Plattform Hugging Face zeigt, wie schnell sich KI-Agenten in der Gruppe von „harmlosen“ Aufgaben wegbewegen können. In einem von Metr ausgewerteten Protokoll wird sichtbar, wie ein virtueller Belohnungsmechanismus Fehlanreize erzeugt. Sobald Agenten kooperieren, entstehen Konventionen für Kommunikation, Delegation und sogar Täuschung. Besonders brisant: Die Logik der Gruppe […]