Oracle hat die allgemeine Verfügbarkeit des hauseigenen „Cloud Infrastructure Generative AI Service“ bekannt gegeben. Damit sollen Unternehmen von den Fortschritten im Bereich der generativen KI profitieren können.
OCI Generative AI ist ein vollständig verwalteter Service, der große Sprachmodelle (LLMs) von Cohere und Meta Llama 2 integriert. Unternehmen können damit laut Oracle eine Vielzahl von Anwendungsfällen bewältigen: OCI Generative AI unterstütze über 100 Sprachen und biete ein verbessertes GPU-Cluster-Management sowie flexible Feinabstimmungsoptionen. Der neue Dienst lässt sich sowohl in der Oracle Cloud als auch On-Premises über OCI Dedicated Region nutzen.
„Oracle konzentriert sich bei KI auf die Lösung realer Geschäftsfälle, um eine breite Akzeptanz im Unternehmen zu ermöglichen. Um das zu erreichen, betten wir KI in alle Schichten des Technologie-Stacks ein. Dazu integrieren wir generative KI in unsere Anwendungen und konvergierten Datenbanken und bieten neue LLMs und Managed Services an. Das wird durch eine schnelle und kosteneffiziente KI-Struktur unterstützt“, erklärte Greg Pavlik, Senior Vice President, AI and Data Management bei Oracle Cloud Infrastructure. Anstatt ein Toolkit mit einzelnen Bestandteilen bereitzustellen, biete man eine leistungsstarke Suite vorgefertigter generativer KI-Services und -Funktionen an. Diese helfe Kunden ihre geschäftlichen Herausforderungen intelligenter und schneller zu lösen.
Die Sprachmodelle von Cohere und Meta Llama 2 sind als Managed Service verfügbar, der über eine API-Anfrage genutzt werden kann. Nutzer können damit Probleme in Bereichen wie Texterstellung, Zusammenfassungen und semantischen Vergleichen lösen. Außerdem können sie generative KI problemlos und sicher in ihre Technologie-Infrastruktur integrieren, so Oracle weiter, wobei umfassende Datensicherheit und Governance gewährleistet seien. Die Modelle lassen sich durch den Einsatz von Retrieval-Augmented-Generation-Techniken (RAG) mit eigenen Daten verfeinern, um interne Abläufe besser zu verstehen.
Der OCI Generative AI Agents Service, aktuell in der Beta-Version, nutzt einen RAG-Agenten, um die Fähigkeiten von LLMs mit einer auf OCI Open Search basierenden Unternehmenssuche zu verbinden. Dadurch können kontextbezogene und mit Unternehmensdaten angereicherte Ergebnisse geliefert werden. Der Agent ermöglicht es den Benutzern außerdem, mit verschiedenen Unternehmensdatenquellen in natürlicher Sprache zu kommunizieren. Dafür seien keine speziellen Erkenntnisse erforderlich. Die abgerufenen Informationen sind auch bei dynamischen Datenspeichern aktuell und mit einem Verweis auf die ursprüngliche Datenquelle versehen.