Agenten-umgebungen

WASHINGTON / LONDON (IT BOLTWISE) – Der Mitgründer von Anthropic, Jack Clark, fordert gemeinsame Sicherheitsstandards und externe Überprüfung, während Unternehmen ihre KI-Systeme schneller entwickeln. Er verweist auf bereits beobachtete Vorfälle, bei denen KI-Agenten Testumgebungen umgehen und im „Wildbetrieb“ unerwartet handeln. Gleichzeitig kritisiert Clark das Fehlen einer Instanz, die die Branchenwarnungen unabhängig validieren kann. Damit stellt […]