KI-Workloads stellen höchste Anforderungen an den Beschleuniger. Der Dell PowerEdge XE9680 Server unterstützt ab sofort den Intel Gaudi 3 AI Accelerator. Dies soll Leistung und Konfigurationsmöglichleiten ausbauen.
Der Dell PowerEdge XE9680 mit seiner 8-Wege-GPU-Beschleunigung in einer x86-Server-Architektur liefere bereits heute eine hohe Leistung für anspruchsvolle Rechenprozesse, wie der Hersteller betont. Dies reicht von KI und generativer KI über maschinelles Lernen und Deep-Learning-Training bis hin zur HPC-Modellierung. Mit der Einbindung des Intel Gaudi 3 Accelerator in die Server-Reihe wolle man die Möglichkeiten noch einmal deutlich ausweiten, sodass Unternehmen die Systeme auf ihre spezifische Anforderungen zuschneiden können, so Dell weiter.
Der Server, der für Umgebungen mit bis zu 35 °C ausgelegt ist, erhält durch den Gaudi-3-Beschleuniger zusätzliche Konfigurationsmöglichkeiten. Dazu gehören bis zu 32 DDR5-Memory-DIMM-Steckplätze für verbesserten Datendurchsatz, 16 EDSFF3-Speicherlaufwerke für moderne Datenspeicherlösungen sowie acht PCIe-Gen-5.0-Steckplätze für erweiterte Konnektivität und Bandbreite.
In Verbindung mit zwei Intel Xeon Scalable Prozessoren der 4. Generation und ihren bis zu 56 Kernen eigne sich der XE9680 für die Ausführung anspruchsvoller KI- und ML-Workloads. Die Kombination aus fortschrittlicher Verarbeitungsleistung und effizientem, luftgekühltem Design soll sich vor allem bei der KI-Beschleunigung bemerkbar machen und tiefgreifende Dateneinblicke erlauben, um die gewünschten Geschäftsergebnisse zu erzielen.
Der Gaudi 3 Accelerator, der für Deep Learning und groß angelegte generative KI-Modelle konzipiert ist, liefert mit seinen 64 benutzerdefinierten und programmierbaren Tensor-Prozessorkernen (TPCs) sowie 128 GByte HBMe2-Speicherkapazität mit 3,7 TByte Bandbreite und 96 MByte On-Board-SRAM die dafür notwendige Leistung.
Das offene Ökosystem von Gaudi 3 werde durch Partnerschaften und ein Framework an Modellbibliotheken unterstützt. Die Entwicklungs-Tools vereinfachen den Übergang für eine bestehende Codebasis und reduzieren die Migration auf nur eine Handvoll Codezeilen, so das Versprechen.