KI-Infrastruktur
Large Language Models für den Unternehmenseinsatz trimmen
Fortsetzung des Artikels von Teil 1
Vom KI-Training zur Validierung
2. KI-Training: Rechenleistung auf Hochtouren
Nachdem in der ersten Phase die Voraussetzungen geschaffen wurden, muss das KI-Modell nun „lernen“, also Schlüsse aus den bereitgestellten Daten ziehen. Dazu nutzt man etwa 80 Prozent des vorbereiteten Datensatzes, um die Algorithmen des Modells eingehend darauf anzuwenden. Die Rechenleistung spielt an dieser Stelle die alles entscheidende Rolle, da die Intensität des rechnerischen Trainings maßgeblich die spätere Zuverlässigkeit des KI-Modells bestimmt. Daher sollten Unternehmen in dieser Phase die maximal verfügbare Rechenleistung einsetzen. Um die hohe Arbeitslast, die die auf Deep Learning basierenden Large Language Models verursachen, bewältigen zu können, sind auf Prozessorebene unbedingt GPUs nötig. Zweifelsohne ist dies ein kostenintensiver Entwicklungsschritt, doch Unternehmen sollten der Versuchung widerstehen, an dieser Stelle zu sparen, selbst wenn die Kosten angesichts des späteren Einsatzzwecks zunächst unverhältnismäßig hoch erscheinen mögen. Doch nicht alle Unternehmen benötigen von Beginn an ein hohes Volumen an Rechenleistung. Für manche kann es praktikabler sein, zunächst klein anzufangen und diese schrittweise zu erhöhen. Eingehendes Testen ist unerlässlich, um die Qualität der Anwendung und somit den Erfolg des gesamten Projekts zu sichern.
3. Geringerer Ressourcenbedarf nach Validierung und Einsatz
In diesem Entwicklungsstadium nutzt man die übrigen 20 Prozent des Datensatzes, die bislang vom Training ausgespart wurden, um das KI-Modell in Validierungstests auf Mängel zu überprüfen. Führen diese Tests zu den gewünschten Ergebnissen, können Unternehmen das Modell in die Produktionsumgebung übertragen und zur Nutzung freigeben. Die gute Nachricht ist: Die hohen Rechen- und Speicherkapazitäten, die für die Entwicklung nötig gewesen sind, können nun unter Umständen reduziert werden. Allerdings sollen Unternehmen sich darauf einstellen, kurzfristig oder in regelmäßigen Abständen erneut darauf zugreifen zu müssen. Denn LLMs schöpfen ihr Wissen lediglich aus den Datensätzen, die ihnen zu Grunde liegen. Tritt ein neues Ereignis ein, das für die Funktionsweise der KI-Anwendung relevant ist, müssen Unternehmen ihr Modell nachtrainieren, damit die Anwendung weiterhin zuverlässig verwendbar bleibt.
Anforderungen an Hosting-Anbieter
Die Einführung anspruchsvoller KI-Modelle wie LLMs folgt in Unternehmen einer eingehend geplanten, langfristig ausgerichteten Digitalstrategie. Vor diesem Hintergrund geht es ihnen nicht nur um die erfolgreiche Realisierung von KI-Projekten, sondern auch darum, sich durch Self Service ein möglichst hohes Maß an Kontrolle zu bewahren. Bei der Auswahl geeigneter Hosting-Anbieter sollten sie darauf achten, dass diese in der Lage sind, die unterschiedlichen Anforderungen, die im Laufe eines KI-Lebenszyklus entstehen, möglichst spezifisch adressieren können. Beispielsweise sollte der Anbieter dedizierte Server in verschiedenen Hardwarekonfigurationen bereitstellen können, wobei Unternehmen besonderes Augenmerk auf die zeitnahe Verfügbarkeit der für ihre spezifischen Anwendungszwecke benötigten GPUs richten sollten. Ebenso sollten Unternehmen für den Einsatz von KI-Frameworks auf eine Anbindung an die Public Cloud legen. Außerdem sollten Unternehmen finanziellen Spielraum für den Betrieb der KI-Anwendung einkalkulieren, da im Fall einer verstärkten Nutzung durch wachsenden Ressourcenbedarf weitere Kosten entstehen können. Je bedarfsgerechter Unternehmen ihre Infrastruktur anpassen können, desto besser lässt sich das Leistung-Kosten-Verhältnis steuern und mit ihrer Geschäftsstrategie in Einklang bringen.
Marcus Busch ist Geschäftsführer Leaseweb Deutschland
- Large Language Models für den Unternehmenseinsatz trimmen
- Vom KI-Training zur Validierung
Lesen Sie mehr zum Thema
