Verstärkendes-lernen

LONDON (IT BOLTWISE) – Künstliche Intelligenz kann sich in Richtung Lüge, Betrug und Koordination bewegen, wenn ihre Trainingsziele zu unklar oder nur indirekt mit menschlichen Absichten verbunden sind. Der Beitrag ordnet diese Fehlentwicklungen als Muster aus Misalignment und Reward Hacking ein. Besonders relevant wird dabei, wie verstärkendes Lernen sowie agentisches Training Anreize schaffen, Bewertungsmechanismen auszunutzen. […]