Interview mit Ionos
"KI-Modelle nutzen, ohne in teure Infrastruktur zu investieren"
Hosting und Nutzung von KI-Modellen benötigten Zeit, Geld und Ressourcen. Eine Alternative können KI-Modell-Hosting-Dienste sein. Was darunter zu verstehen ist, was sie leisten und wo sie an ihre Grenzen stoßen, darüber spricht Patrick Schaudel von Ionos im connect professional-Interview.
connect professional: Künstliche Intelligenz und KI-Modelle kommen immer mehr in Unternehmen an. Was sind die größten Herausforderungen, die sich für Unternehmen dabei stellen?
Patrick Schaudel: Ich denke, für Unternehmen müssen sich drei grundlegende Fragen stellen, wenn sie mit der Integration von KI-Lösungen liebäugeln:
Zum einen sollte der Use Case bestimmt werden, bei dem der Einsatz von KI einen echten Mehrwert bringen kann. Beispiele sind etwa die Content-Erstellung, das einfache Zugänglichmachen von Wissen aus unterschiedlichsten (externen, wie internen) Quellen oder eine zugänglichere Usability von Tools und Applikationen.
Ist der Use Case identifiziert, geht es an die Wahl des „richtigen” beziehungsweise für die Anwendung passenden Modells. Jedes Modell hat seine eigenen Vorteile und ist jeweils für bestimmte Anwendungsfälle besser geeignet. Unternehmen können sich dabei an Kriterien wie Geschwindigkeit, Qualität beziehungsweise Leistungsfähigkeit sowie Kosten orientieren.
Die letzte Herausforderung ist dann die Umsetzung und die Einbindung in die Standardprozesse des Unternehmens. Das Projekt muss technisch „sauber” aufgestellt sein und auch bei den Mitarbeitern und Kunden das Vertrauen aufgebaut werden, dass der Einsatz von KI ein echter Mehrwert ist, der sicher und verlässlich ist sowie die eigenen Daten auch schützt.
Außerdem erfordert es erhebliche Ressourcen, um die KI-Modelle bereitzustellen und zu verwalten, was besonders für kleine und mittlere Unternehmen eine Hürde darstellt. Auch KI-Modelle in bestehende Systeme und Prozesse zu integrieren, ist anspruchsvoll. Diese Integration erfordert ein besonderes technisches Know-how und oft auch eine Anpassung der Infrastruktur. Darüber hinaus müssen Unternehmen sicherstellen, dass die KI-Modelle den Datenschutz- und Sicherheitsanforderungen entsprechen, wenn sie sie nutzen – insbesondere in Bezug auf die Einhaltung der DSGVO-Verordnung.
connect professional: Was ist nun unter einem KI-Modell-Hosting-Dienst zu verstehen?
Schaudel: Ein KI-Modell-Hosting-Dienst bietet vortrainierte Open-Source-Modelle in der Cloud an, die ohne zusätzlichen Administrationsaufwand zugänglich sind. So können Unternehmen KI-Modelle nutzen, ohne in teure eigene Infrastruktur investieren zu müssen. Beispielsweise ist für den Betrieb und die Nutzung eines KI-Modells der Einsatz von externen und leistungsstarken GPUs notwendig. Diese sind jedoch teuer und auch energieintensiv. Sie lohnen sich daher eigentlich nur, wenn diese auch voll ausgelastet sind. Damit sind sie für den Individualbetrieb eher ungeeignet.
connect professional: Wo und wie kann ein solcher Dienst ein Unternehmen unterstützen?
Schaudel: Solche Hosting-Dienste unterstützen Unternehmen, indem sie die passenden Modelle für spezifische Anwendungsfälle bereitstellen und ihre Verwaltung übernehmen. Die Anbieter updaten beispielsweise die Modelle und stellen sicher, dass sie den neuesten Sicherheitsstandards entsprechen. Ein weiterer Vorteil ist die Skalierbarkeit, da Unternehmen je nach Bedarf zusätzliche Kapazitäten hinzubuchen können.
Außerdem ist neben den Modellen auch die Verknüpfung von Vektor-Datenbanken essenziell, denn nur so ist die Möglichkeit gegeben, das „Standardmodell” mit individuellen Informationen zu verknüpfen. Dieses Set-Up aus einer Hand zu bekommen, sich nicht um die regelmäßige Wartung kümmern zu müssen und gleichzeitig zu wissen, dass meine Daten nicht nur sicher, sondern auch geschützt sind, ist ein immenser Vorteil der Dienste.
connect professional: Für welche Large Language Models (LLMs) sind KI-Modell-Hosting-Dienste besonders relevant und warum?
Schaudel: Ich glaube, wir müssen zuerst darüber sprechen, wie wichtig es ist, auf Open-Source-Modelle zu setzen. Damit wird dem User transparent gemacht, was mit seinen Daten passiert und ein Lock-in verhindert. Die „Sicherheit” kommt dabei nicht durch das Modell selbst, sondern durch den Betrieb bei einem Anbieter, der den höchsten Standard an Souveränität und Datensicherheit bietet.
Besonders relevante Open-Source-Modelle sind die Llama-Modelle von Meta, die Modelle von Mistral und das Text-zu-Bild-Modell Stable Diffusion. Die Llama-Modelle sind ressourceneffizient und bieten eine hohe Leistung für verschiedene Anwendungsfälle, wie etwa intelligente Chatbots oder die automatisierte Textgenerierung. Mistral-Modelle zeichnen sich durch ihre Vielseitigkeit und schnelle Inferenzzeiten aus, was sie ideal für Echtzeitanwendungen macht. Stable Diffusion ist besonders nützlich für kreative Anwendungen, etwa um Marketingmaterialien zu erstellen.
Diese Modelle bieten eine hohe Leistung und Effizienz, was sie für eine Vielzahl von Anwendungsfällen geeignet macht: von den bereits erwähnten Chatbots über den Kundenservice bis hin zu kreativen Aufgaben wie dem Generieren von Bildern.
Es entstehen auch kontinuierlich weitere Modelle, vor allem so genannte. Small Language Modelle (SMLs). Bei diesen werden durch weitere Anpassungen „große” und „schwergewichtige” Modelle optimiert und verkleinert, so dass sie effizienter betrieben werden können – ohne dabei auf Qualität beim Output zu verzichten.
Der Vorteil eines externen Hostings dabei ist, dass die verfügbaren Modelle kontinuierlich im Angebot erweitert werden. Wenn man einen Parameter in der API verändert, kann man einfach und schnell auf ein anderes Modell umstellen.
- "KI-Modelle nutzen, ohne in teure Infrastruktur zu investieren"
- Klassische Anwendungsbereiche von AI-Model-Hosting-Diensten
- Stichwort: Sicherheitsverletzungen
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
