Dell Technologies bringt derzeit eine Reihe von IT-Infrastrukturlösungen, Workstations und Services für generative KI (künstliche Intelligenz) auf den Markt. Sie soll Unternehmen aller Größen und Branchen in die Lage versetzen, passende Anwendungen on-Premises zu entwickeln und zu betreiben.
Mit dem „Dell Validated Design for Generative AI with Nvidia“ biete man zunächst die passenden Infrastruktur-Baupläne für generative KI an. Das Design hat Dell nach eigenen Angaben gemeinsam mit Nvidia entwickelt. Es soll es Unternehmen erlauben, vor Ort eine modulare und sichere Plattform für Generative AI aufzubauen. Das Ziel ist die Fähigkeit, selbst für die eigenen Daten Anwendungen mit Sprachmodellen (Large Language Models, LLMs) zu entwickeln, zu betreiben und schnell skalieren zu können.
Das Design umfasst getestete und validierte Kombinationen von Infrastruktur-Komponenten wie den Servern Dell PowerEdge XE9680 und Dell PowerEdge R760xa mit Nvidia Tensor Core GPUs, Nvidia AI Enterprise Software, dem NeMo-Framework und Software von Dell Technologies. Diese Kombinationen können die Nutzer-Unternehmen mit Storage-Lösungen für unstrukturierte Daten erweitern, etwa mit dem hauseigenen PowerScale oder dem ECS Enterprise Object Storage. Die Infrastrukturen sind auch via Dell Apex verfügbar. Auf diesem Weg erhalten Unternehmen eine On-Premises-Installation, die sie wie eine Cloud nutzen und verwalten können.
Ergänzt werde das Ganze durch weitere Professional-Services, so Dell weiter. Die Dienstleistungen beginnen mit der Entwicklung einer Strategie für generative KI, die sinnvolle Einsatzszenarien identifiziert und eine Roadmap für ihre Umsetzung definiert. Zudem bietet Dell Technologies umfassende Implementierungs-Services sowie Dienstleistungen für die Ausrichtung der Plattformen auf konkrete Anwendungsfälle an. Nach der Implementierung helfen Skalierungsdienste den Unternehmen dabei, den Betrieb mit Hilfe von Managed Services, Schulungen oder Experten vor Ort zu optimieren.