Gpu-speicher

LONDON (IT BOLTWISE) – Bei der Vorstellung rund um NVIDIAs RTX Spark wurden lokale LLMs mit sehr großen Modellgrößen in Aussicht gestellt. Microsoft-Manager Pavan Davuluri nennt dabei open-weight 284B-Modelle, die vollständig auf dem Gerät laufen sollen. Im Fokus steht auch ein neues Windows-11-Feature, mit dem Nutzer die Speicherzuweisung an die GPU für KI-Workloads steuern können. […]