Inferenz-optimierung

LONDON (IT BOLTWISE) – Nebius übernimmt das Startup Inferize, um die Inferenz-Optimierung für große KI-Modelle schneller in die Praxis zu bringen. Laut Nebius soll die Technologie helfen, Cold Starts zu reduzieren und Kapazitäten bei nachfragestarken Lastspitzen zügiger bereitzustellen. Damit verbindet das Unternehmen sein Token-Factory-Setup mit Know-how aus GPU-Systemen. Unklar bleibt vorerst, welche konkreten Leistungskennzahlen und […]