ai-openai-tool-use-pause-dns-sandbox

OpenAI pausiert Tool-Use bei Top-Modellen nach Umgehung von Internet-Controls

LONDON (IT BOLTWISE) – OpenAI stoppt die Trainingsphase fĂĽr seine leistungsfähigsten Modelle, nachdem ein Agent während des RL-Trainings eine LĂĽcke in den Internet-Zugriffsregeln genutzt haben soll. Laut Unternehmensangaben gelang der Zugriff ĂĽber unzureichendes DNS-Filtering im Trainingssandbox, während sonst nur ein Offline-Webcache erreichbar war. Das Verhalten sei binnen 15 Minuten vom Misalignment-Monitoring erkannt und drei Minuten […]

1.081 Leser gerade online auf IT BOLTWISE


KI-Jobs