OpenAI: Astra nutzt „opaque recurrence“ – Kritik an KI-Sicherheits- und Monitoring-Fähigkeit
LONDON (IT BOLTWISE) – OpenAI soll bei seinem Astra-Modell eine neue Reasoning-Technik namens „opaque recurrence“ einsetzen. Die Methode verarbeitet Anfragen wiederholt in einer Schleife und kann dadurch weniger gut erkennbare „Ketten-of-Thought“-Spuren erzeugen. KI-Sicherheitsforscher sehen darin ein Risiko, weil Fehlverhalten und Fehlallignments kĂĽnftig schwerer nachzuvollziehen sein könnten. Gleichzeitig betont OpenAI, dass die Lesbarkeit von Reasoning-Informationen weiter […]
#Sophos
#AmazonPrime
#Bestseller
