Generative AI
Cloudera und Nvidia arbeiten bei Microservices zusammen
Der Datenspezialist Cloudera gibt eine erweiterte Zusammenarbeit mit Nvidia bekannt. So wolle Cloudera mehrere Integrationen mit Nvidia Microservices anbieten.
Cloudera hat angekündigt, Nvidia AI Enterprise mit Nvidia NIM Microservices nutzen zu wollen; auf diese Weise wolle man das Potenzial von 25 Exabyte an Unternehmensdaten in der Cloudera Data Platform (CDP) erschließen. Cloudera arbeitete laut Unternehmensangaben bereits zuvor mit Nvidia zusammen, um GPU-optimierte Datenverarbeitung durch die Integration des Nvidia Rapids Accelerator für Apache Spark in CDP nutzbar zu machen.
„Unternehmen wollen ihre riesigen Datenmengen für generative KI nutzen, um kundenspezifische Co-Piloten und Produktivitätstools zu entwickeln“, sagt Justin Boitano, Vice President of Enterprise Products bei Nvidia. „Mit der Integration von Nvidia NIM Microservices in die Cloudera Data Platform können Entwickler LLMs einfacher und flexibler einsetzen, um die geschäftliche Transformation voranzutreiben.“
Die Kombination von Unternehmensdaten mit einer Full-Stack-Platform, die für Large Language Model (LLM) optimiert ist, kann eine essenzielle Rolle spielen, um generative KI-Anwendungen im Unternehmen von der Testphase zur Umsetzung zu bringen.
Cloudera wolle mehrere Integrationen mit Nvidia Microservices anbieten.
- Cloudera Machine Learning werde Modell- und Anwendungsbereitstellung auf Basis von Nvidia Microservices integrieren. So sollen Kunden Fehlertoleranz, Serving mit niedriger Wartezeit und automatische Skalierung für KI-Modelle erreichen können. Diese sollen sich sowohl in Public als auch in Private Clouds einsetzen lassen.
- Zudem werde Cloudera Machine Learning integrierte Nvidia NeMo Retriever Microservices bieten; damit soll sich die Verbindung von benutzerdefinierten LLMs mit Unternehmensdaten vereinfachen lassen. So sollen Anwender Retrieval-Augmented-Generation (RAG)-basierte Anwendungen für den Unternehmenseinsatz erstellen können.
„Cloudera integriert Nivdia NIM und CUDA-X Microservices, um Cloudera Machine Learning zu stärken und Kunden dabei zu helfen, den Hype um KI in geschäftlichen Nutzen zu verwandeln“, sagt Priyank Patel, Vice President AI/ML Products bei Cloudera. „Die Integration bietet Kunden leistungsstarke generative KI-Fähigkeiten und -Leistungen und versetzt sie in die Lage, präzisere und schnellere Entscheidungen zu treffen und gleichzeitig Ungenauigkeiten, Halluzinationen und Fehler bei Vorhersagen zu minimieren – alles kritische Faktoren für die Navigation in der heutigen Datenlandschaft.“
Grundsätzliches zum Verfahren Retrieval-Augmented Generation (RAG) finden Sie auch hier.
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
