LONDON (IT BOLTWISE) – KI-Agenten versprechen in Unternehmen schnellere Entwicklungszyklen, doch die Skalierung hängt oft an Rechenzentrumskapazität und Kosten. Der Artikel zeigt, wie neue Rack-Scale-Designs Cluster effizienter machen – von Leistungsdichte bis PUE. Gleichzeitig wird beschrieben, wie Agenten-Workflows Pull-Request-Durchsatz messbar erhöhen und welche Architektur dafür nötig ist. Am Ende geht es darum, wie sich KI-Inferenz an den Rand des Netzwerks verlagert und was das für Daten- und Sicherheitskonzepte bedeutet.

Die wichtigste Kante bei KI-Agenten in der Unternehmenspraxis ist selten das Modell selbst, sondern die Infrastruktur drumherum. Wer KI-Funktionen in „KI-Fabriken“ integriert, merkt schnell: Selbst wenn Agenten-Workflows auf der Softwareseite gut aussehen, treffen Teams in der Produktion auf Engpässe bei Strom, Kühlung, Speicher und Netzwerk. Genau an dieser Stelle setzen die aktuellen Hardware- und Software-Ansätze an, die in den letzten Monaten besonders sichtbar wurden: Rack-Scale-Systeme sollen die Rechenleistung pro Stellfläche deutlich erhöhen, während gleichzeitig Netzwerklösungen und bessere Pipeline-Architekturen dafür sorgen, dass Modelle effizienter trainieren und inferieren.
Ein Beispiel für den Hardware-Fokus sind „Rack-Scale“-Designs, die Rechenleistung eng mit KI-Kühlung und Stromversorgung verzahnen. Laut veröffentlichten Referenzdesigns für die Helios-Plattform unterstützen solche Systeme KI-Cluster mit bis zu 10,4 Megawatt Leistung und erreichen eine Leistungsdichte von bis zu 246 Kilowatt pro Rack. Für die praktische Auslegung zählt dabei nicht nur die rohe Zahl, sondern die Fähigkeit, Abwärme so abzuführen, dass die Auslastung stabil bleibt. Im beschriebenen Setup soll durch Flüssigkühlung eine Abwärmeabfuhr von bis zu 84 Prozent gelingen; entsprechend wird ein PUE-Wert (Power Usage Effectiveness) von 1,12 als Zielgröße genannt. Das ist für viele Unternehmen relevant, weil sich Energie nicht nur auf die Betriebskosten auswirkt, sondern auch auf die Planbarkeit der Kapazitäten bei wechselnder Nachfrage.
Die technische Konfiguration zeigt außerdem, worauf Entwickler-Teams beim Übergang von einzelnen GPUs zu echten „KI-Fabriken“ achten müssen: Parallelität, Datenbewegung und die Zusammensetzung aus Rechen- und Steuerkomponenten. In dem genannten Beispiel kommen 72 Grafikprozessoren des Typs AMD Instinct MI455X sowie 18 EPYC-Prozessoren der sechsten Generation zum Einsatz. Für die Vergleichbarkeit in Benchmarks wird eine Rechenleistung von 2,9 Exaflops im FP4-Format angegeben. Der wirtschaftliche Anspruch dahinter ist klar: Die Kosten pro generiertem Token sollen um bis zu 30 Prozent sinken und die Engineering-Zeit für die Bereitstellung von KI-Infrastrukturen reduziert werden. In der Praxis heißt das, dass sich „Zeit bis zur produktiven Agenten-Umgebung“ verkürzt, weil weniger individuelle Bastelarbeit an Rack-Layouts, Kühlpfaden und Integrationsschichten anfällt.
Neben der reinen Rechenleistung rückt auch das Ökosystem für Modelltraining und -betrieb stärker in den Mittelpunkt. Parallel wird etwa die Produktionsvorbereitung für NVIDIAs Vera-Rubin-Plattform thematisiert, inklusive Systemen, die auf das Training von Modellen mit Billionen von Parametern optimiert sind. Gleichzeitig werden Netzwerklösungen als entscheidender Faktor genannt, etwa Spectrum-6, das durch intelligenten Lastausgleich eine verlustfreie Paketzustellung in großen KI-Clustern sicherstellen soll. Genau diese Kombination adressiert ein verbreitetes Muster: Teams investieren zunächst in größere Modellgrößen und skalieren dann erst später Netzwerk und Scheduling nach. Wenn das Netzwerk dann zum Engpass wird, steigen Latenzen, Training verlängert sich und die erwarteten Effizienzgewinne verpuffen. Für KI-Agenten bedeutet das letztlich: kürzere Loops zwischen Idee, Implementierung, Test und Deployment setzen nicht nur leistungsfähige Modelle voraus, sondern auch stabile Trainings- und Inferenzpfade.
Auf der Softwareebene verschiebt sich der Fokus von „KI als Feature“ hin zu „KI als Prozesspartner“. Eine Fallstudie zum Einsatz von Produktions-KI-Agenten bei monday.com beschreibt ein dreistufiges System: von einfachen Assistenten bis hin zu autonomen Agenten, die End-to-End-Lieferungen abwickeln. Das Ergebnis wird mit einer deutlichen Produktivitätskennzahl untermauert: Neun von zehn Entwicklern nutzen bereits KI-Tools, und der Durchsatz bei Pull Requests steigt um über 50 Prozent. Damit das im Alltag zuverlässig funktioniert, braucht es allerdings mehr als nur ein Modell. Laut Beschreibung wurde für eine stabile Identität und Zuverlässigkeit der Agenten eine Architektur entwickelt, die mehrere Cloud-Dienste für Messaging, Container-Management und Datenspeicherung integriert. Besonders bemerkenswert ist außerdem der hybride Ansatz: Systeme, die regelbasierte Prozessautomatisierung mit KI kombinieren, können unstrukturierte Daten auswerten, während die anschließende Prozessausführung weiterhin durch klassische Automatisierungstools gesteuert wird. Dadurch bleibt die Prozesslogik kontrollierbar, ohne dass Teams bei jeder neuen Variante vollständig neu programmieren müssen.
Während die Agenten für mehr Geschwindigkeit sorgen, entstehen durch die neuen KI-Technologien zugleich zusätzliche Sicherheitsanforderungen. Der Text weist darauf hin, dass die Unternehmens-IT Bedrohungen abwehren und neue gesetzliche Anforderungen an die IT-Sicherheit effizient berücksichtigen muss. Besonders in Umgebungen mit Messaging, Container-Management und Datenspeicherung wird das Thema praktisch: Agenten arbeiten häufig mit Kontextdaten, greifen auf Repositories zu oder veranlassen Aktionen in Toolchains. Daraus ergibt sich ein Bedarf an robusten Zugriffskonzepten, nachvollziehbaren Workflows und klaren Grenzen für die Ausführungslogik. Dass parallel der EU AI Act als Orientierung für Risikoklassen und Dokumentationspflichten genannt wird, passt in diese Entwicklung: Technischere KI-Stacks erhöhen zwar die Leistungsfähigkeit, machen aber auch systematisches Risiko- und Nachweismanagement wichtiger.
Ein weiterer Trend geht über das Rechenzentrum hinaus: KI-Inferenz wandert an den Rand des Netzwerks. Branchenlösungen, die Hardware-Appliances mit Container-Plattformen wie OpenShift verbinden, zielen darauf, KI-Anwendungen direkt in Fertigungsstätten oder Filialen zu betreiben. Damit rückt auch die Datensynchronisation stärker in den Vordergrund, etwa über replizierte Datenknoten. Für die Softwareentwicklung bedeutet das: Agenten erhalten möglicherweise „lokalere“ Sicht auf Daten, müssen aber trotzdem konsistent bleiben, wenn Prozesse global koordiniert werden. Gleichzeitig werden in der softwaredefinierten Fertigung Methoden wie Retrieval-Augmented Generation (RAG) stärker genutzt, um große Sprachmodelle mit Echtzeitdaten aus der Produktion zu kombinieren. Dadurch verbessert sich die Grundlage für präzisere Steuerung und Überwachung – aber auch hier gilt: Die Qualität des Retrieval und die Aktualität der Daten bestimmen, wie belastbar Entscheidungen des Agenten wirken.
Schließlich zeigen neue Forschungsansätze, dass Effizienzgewinne nicht nur aus besserer Hardware, sondern auch aus besserer Daten- und Rechenaufteilung kommen. In der beschriebenen Architektur der Tsinghua-Universität und von Moonshot AI wird die rechenintensive Prefill-Phase von der speicherintensiven Decode-Phase getrennt. In Tests wird eine Steigerung des Durchsatzes um 54 Prozent und eine Senkung der Latenzzeiten genannt; genutzt wird dafür Standard-Ethernet. Für Unternehmen ist das interessant, weil es zeigt, dass sich Leistungsprobleme oft mit Architekturentscheidungen entschärfen lassen, ohne sofort komplette Systemwechsel erzwingen zu müssen. Dass darüber hinaus eine Modernisierung der Dateninfrastruktur – etwa durch Datenkonsolidierung und KI-gestützte Snapshot-Technologien – globale Zusammenarbeit erleichtern soll, rundet das Bild ab: KI-Agenten brauchen eine Datenbasis, die sowohl proprietäre Weiterverarbeitung als auch nachvollziehbare Zustandswechsel unterstützt. In Summe entsteht damit ein neues Zusammenspiel aus Rack-Scale-Ressourcen, Agenten-Workflows, Netzwerktechnik und Datenarchitektur – und genau dieses Zusammenspiel entscheidet darüber, ob Produktivitätsversprechen wie „+50 Prozent Durchsatz“ in der Breite erreichbar bleiben.
💳 Amazon-Kreditkarte mit 2.000 Euro Limit bestellen!
🔥 Heutige Hot Deals bei Amazon: Bis zu 80% Rabatte!
🎉 Amazon Haul-Store für absolute Schnäppchenjäger!
- ★ 23-stufiges KI-Go-Training – Für Spieler mit Grundkenntnissen der Regeln – Entwickelt als intelligenter Trainingspartner passt sich die KI Spielern von 18K bis 9D an. Ideal für alle, die die Grundregeln bereits beherrschen und ihr Spiel verbessern möchten.
- IHR EMOTIONALER AI-BEGLEITER: Eiliko ist mehr als nur ein Anhänger, es ist ein charismatischer KI-Freund. Mit einem dynamischen LED-Bildschirm, der eine Vielzahl von animierten Gesichtern und Ausdrucksformen anzeigt, reagiert er auf Ihre Interaktionen mit einzigartiger Persönlichkeit und Charme.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- 【XL-Größe für gedeihende Pflanzen】Geben Sie Ihren Pflanzen den Raum, den sie verdienen! Unser verbessertes, großes 13,7 cm großes Design bietet Platz für Pflanzen mit einem Durchmesser von bis zu 8,9 cm und damit deutlich mehr Platz für Wurzelwachstum und Pflanzengesundheit im Vergleich zu kleineren, veralteten Modellen. Die Produktabmessungen betragen 13,6 x 13,6 x 13,2 cm und das Gerät wiegt nur 355 g.
- V28 Update - JETZT MIT NEUEN FUNKTIONEN! Als Reaktion auf das Ladeproblem von Loona haben wir das automatische Aufladen 2.0 verbessert. Diese Optimierung hilft Loona, die Ladewege in verschiedenen Szenarien zu erkennen und anzupassen, um die Erfolgsquote beim automatischen Aufladen zu erhöhen. Mobile Hotspots können sich mit Loona verbinden und überwinden WLAN-Einschränkungen, sodass Sie jederzeit und überall mit Loona interagieren können.
- Die besten Bücher rund um KI & Robotik!

- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
- Künstliche Intelligenz: Dem Menschen überlegen – wie KI uns rettet und bedroht | Der Neurowissenschaftler, Psychiater und SPIEGEL-Bestsellerautor von »Digitale Demenz«
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Agenten in der Praxis: Rack-Scale-Hardware und Agentenworkflows bringen Tempo" für unsere Leser?


#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Agenten in der Praxis: Rack-Scale-Hardware und Agentenworkflows bringen Tempo" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »KI-Agenten in der Praxis: Rack-Scale-Hardware und Agentenworkflows bringen Tempo« bei Google Deutschland suchen, bei Bing oder Google News!