Künstliche Intelligenz
Cloud und On-premises-Welt im KI-Kontext
Die Entwicklung, Bereitstellung und Verwaltung von KI- und ML-Modellen ist mitunter infrastrukturintensiv und erfordert spezifische Frameworks und Tools. Für die Bewältigung dieser Herausforderungen können Hybrid-Cloud-Plattformen ein gangbarer Weg sein.
Die Nutzung von KI- und ML-Technologien verspricht so einiges: beispielsweise eine Prozessbeschleunigung, eine höhere Qualität oder eine Entlastung der Mitarbeitenden. Zugleich ist die Einführung von KI-basierten Anwendungen mit zahlreichen Anforderungen verbunden. Sie betreffen die Hardware-Ressourcen mit kostenintensiven GPU-Beschleunigungsfunktionen, die Architektur-Basis oder die prozessuale Struktur, die für eine agile KI/ML-Umgebung benötigt werden. Zudem sollte die Möglichkeit bestehen, KI/ML-Workloads auch in großem Umfang integrieren und bearbeiten zu können.
Die Aufgabenstellung lautet folglich, eine flexible und skalierbare Basis für das Training, die Wartung, die Feinabstimmung und die tatsächliche Nutzung von KI-Modellen in der Produktivumgebung zu schaffen. Konkret geht es dabei erstens um die Entwicklung von Modellen einschließlich Training, Tests und Auswahl des Modells mit der höchsten Vorhersage-Genauigkeit. Zweitens muss eine Integration der Modelle in die Prozesse der Anwendungsentwicklung erfolgen. Und drittens ist die Überwachung und Verwaltung der Modelle zur Messung der Performance und Reaktion auf potenzielle Datenabweichungen in der Produktion unerlässlich.
Offene Hybrid-Cloud-Plattformen im KI-Kontext
Die Basis für die vielfältigen Aufgaben kann eine offene Kubernetes-basierte Hybrid-Cloud-Plattform sein, die eine konsistente Infrastruktur für die KI-Modell-Entwicklung, das KI-Modell-Training und auch die KI-Modell-Einbettung in Anwendungen bieten kann.
Dabei erfüllt eine Hybrid-Cloud-Plattform mit Security-Kontrollen, Versionierung und Archivierung wichtige Voraussetzungen für die sichere KI- und ML-Umsetzung. So sind bei der Bereitstellung von KI-Anwendungen in der Produktivumgebung in der Regel die Best Practices, Security-, Compliance- und Governance-Richtlinien eines Unternehmens zu berücksichtigen. Eine offene Plattform kann hier die Möglichkeit bieten, den Weg vom Experiment in den Produktivbetrieb zu gestalten.
Konkret sollte eine offene Hybrid-Cloud-Plattform dem Nutzer im KI-Kontext unter anderem folgende Funktionen bereitstellen:
- Deployment-Pipelines für die Nachverfolgung von KI/ML-Experimenten und für automatisierte ML-Workflows, die Data Scientists und Entwickler bei der schnelleren Iteration von ML-Projekten und bei der Integration der Automatisierung in die Bereitstellung und Aktualisierung von Anwendungen unterstützen
- Ein Model Serving Framework, in das Data Scientists ihre trainierten und validierten ML-Modelle einstellen, auf die Applikationsentwicklerinnen und -entwickler dann über Standard-APIs zugreifen können
- Ein Model Monitoring, das Unternehmen das Management von Performance- und Betriebsmetriken über ein zentrales Dashboard ermöglicht.
Einer der Vorteile einer offenen Hybrid-Cloud-Plattform ist die Flexibilität, die sie Unternehmen hinsichtlich der genutzten Infrastruktur bietet: von einer On-Premises- bis zu einer Cloud-Umgebung. Unternehmen mit hohen regulatorischen und Compliance-Anforderungen können so Modelle mit sensitiven Daten on-premises entwickeln, trainieren und anschließend in der Cloud nutzen. Umgekehrt ist es aber auch möglich, Modelle etwa mit anonymisierten Testdaten in der Public Cloud zu entwickeln und zu trainieren sowie diese Modelle dann anschließend in eine On-Premises-Anwendung oder an der Edge zu integrieren.
- Cloud und On-premises-Welt im KI-Kontext
- Machine Learning Operations-Modelle liegen im Trend
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
