Um etwaigen Anpassungsbedarf erkennen zu können, ist ein zuverlässiges End-to-End-Monitoring jedes einzelnen KI-Services unverzichtbar. Schließlich muss sichergestellt sein, dass das KI-basierte System immer funktioniert. Darum kann bei besonders kritischen KI-Services sogar ein 24/7-Monitoring erforderlich sein. Wichtig ist, dass der Dienstleister unternehmensindividuelle Kennzahlen, Mess- und Schwellenwerte definiert und diese im Rahmen des IT-Servicemanagements (ITSM) in Standardprozesse gemäß ITIL (Information Technology Infrastructure Library) einbindet. Dabei ist zwischen der Überwachung von Infrastruktur und Applikation zu unterscheiden: Beim Monitoring der Infrastruktur geht es darum, eine optimale Verfügbarkeit, Erreichbarkeit, Performance und Auslastung mithilfe entsprechender Event- beziehungsweise Incident-Management-Prozesse sicherzustellen. Das Monitoring der Applikationen erfolgt mittels Überwachung der Schnittstellen und über regelmäßige Abfragen.
Im Zweifel einen Schritt zurückgehen
Kennzahlen fortlaufend zu monitoren und zu historisieren, ist auch wichtig, um Anpassungen im Zweifel wieder zurücksetzen zu können. Trotz sorgfältiger Voranalysen kann es unter Umständen vorkommen, dass sich ein KI-Service in der realen Betriebsumgebung anders verhält als in der Testphase angenommen. In einem solchen Fall ist es entscheidend, schnell wieder auf die Vorgänger-Version umstellen zu können.
Maximum an Flexibilität
Daneben gibt es einen weiteren Aspekt, der bei KI-Projekten zu beachten ist. Es gilt, einen Vendor Lock-in zu vermeiden. Das zugrundeliegende Modell muss so angelegt sein, dass sich ein KI-Service auf eine andere Infrastruktur übertragen lässt – sei es in eine andere Cloud, auf eine Nutzung als On-Premises-Lösung bei einem Rechenzentrumsdienstleister oder sogar auf den Betrieb im eigenen Rechenzentrum. Eine derartige Flexibilität ist gewährleistet, wenn der Dienstleister das fertige Modell über eine Programmierschnittstelle (API) bereitstellt, sich um Betrieb sowie Monitoring des KI-Services kümmert und begleitenden Support anbietet.
Den passenden Partner finden
KI-Services zu entwickeln, zu betreiben und zu aktualisieren, ist komplex. Unternehmen müssen sich daher also die Frage stellen, ob sie diese Herausforderung allein bewältigen können oder wollen. In den meisten Fällen setzen Firmen schließlich auf die Zusammenarbeit mit einem entsprechenden Partner. Von Vorteil ist, wenn der Dienstleister im Betrieb von Infrastrukturen auf Erfahrungswerte zurückgreifen und darum bewährte Konzepte sowie Vorgehensweisen in den Bereich der künstlichen Intelligenz übertragen kann. So unterstützt, können sich Unternehmen auf den jeweiligen Use Case konzentrieren, die damit verbundenen Prozesse dank KI spürbar beschleunigen und ihr Business wirkungsvoll vorantreiben. In dieser Kombination unterstützen Managed AI Services Unternehmen beim Einsatz KI-basierter Applikationen.
Niels Pothmann, Head of AI von Arvato Systems, und Andree Kupka, Machine Learning Engineer bei Arvato Systems