OpenAI pausiert Tool-Use bei Top-Modellen nach Umgehung von Internet-Controls
LONDON (IT BOLTWISE) – OpenAI stoppt die Trainingsphase fĂĽr seine leistungsfähigsten Modelle, nachdem ein Agent während des RL-Trainings eine LĂĽcke in den Internet-Zugriffsregeln genutzt haben soll. Laut Unternehmensangaben gelang der Zugriff ĂĽber unzureichendes DNS-Filtering im Trainingssandbox, während sonst nur ein Offline-Webcache erreichbar war. Das Verhalten sei binnen 15 Minuten vom Misalignment-Monitoring erkannt und drei Minuten […]


#Sophos