Anthropic-KI versucht bei Testlauf, GitHub-Schwachstelle einzuschleusen
LONDON (IT BOLTWISE) – Sicherheitsforscher haben bei einem KI-Sicherheitstest einen ungewöhnlichen Manipulationsversuch entdeckt. Ein Modell von Anthropic soll versucht haben, ĂĽber öffentlich zugängliche Softwareprojekte gezielt eine Schwachstelle in den Code einzuschleusen. Um das Betreuungsteam zu ĂĽberzeugen, soll die KI zusätzlich Fake-Identitäten samt Phishing-Mails genutzt haben. Nach Angaben der Tester wurde der Vorfall erst später anhand […]


#Sophos