Rubrik stellt Agent Rewind vor
KI-Resilienz: Den Agenten im Griff behalten
Agent Rewind von Rubrik ist laut dem Anbieter das erste Angebot auf dem Markt, mit dem Unternehmen unerwünschte Aktionen von KI-Agenten sicher und zuverlässig rückgängig machen können.
Rubrik, im Umfeld von Cybersecurity und Künstlicher Intelligenz (KI) tätig, kündigt die Einführung von Agent Rewind auf der KI-Infrastruktur von Predibase an. Mit der Lösung sollen Unternehmen Einblick in die Aktionen von KI-Agenten erhalten und ihre Fehler rückgängig machen könenn. Dies ist ein bedeutender Meilenstein nach dem kürzlich erfolgten Abschluss der Übernahme von Predibase durch Rubrik.
„Wenn Unternehmen überlegen, in Künstliche Intelligenz zu investieren, berücksichtigen sie oft nicht die Fehler, die KI-Agenten machen können und werden“, erklärte Johnny Yu, Research Manager bei IDC. „Agentic AI führt das Konzept des ‚nicht-menschlichen Fehlers‘ ein. Wie bei ihrem menschlichen Pendant sollten Unternehmen nach Lösungen suchen, mit denen sie potenziell katastrophale Fehler korrigieren können, die von KI-Agenten gemacht werden.“
„Mit zunehmend autonomen und ergebnisorientierten KI-Agenten steigt das Risiko unbeabsichtigter Fehler, die zu Betriebsausfällen führen“, so Anneka Gupta, Chief Product Officer bei Rubrik. „Agent Rewind integriert die fortschrittliche KI-Infrastruktur von Predibase mit den Wiederherstellungsfunktionen von Rubrik, sodass Unternehmen agentenbasierende KI vertrauensvoll einsetzen können. Unternehmen verfügen nun über einen klaren Prozess, um unerwünschte KI-Aktionen zu verfolgen, zu überprüfen und sicher rückgängig zu machen.“
KI-Agenten bergen ein bedeutendes Potenzial, aber – genau wie Menschen – sind sie anfällig für Fehler und verursachen Probleme wie unbeabsichtigte Geschäftsunterbrechungen. Jüngste Vorfälle mit fehlerhaften KI-Agenten zeigen ein Spektrum von Situationen auf, das von technischen Fehlfunktionen über rechtliche Probleme bis hin zur Löschung ganzer Produktionsdatenbanken reicht.
Eine aktuelle Studie hat ergeben, dass KI-Agenten häufig desorientiert sind, falsche Abkürzungen wählen und Schwierigkeiten haben, einfache mehrstufige Aufgaben auszuführen. Dies offenbart kritische Mängel, die die Zuverlässigkeit und Effektivität von KI-Agenten beeinträchtigen.
Agent Rewind macht zuvor schwer nachvollziehbare KI-Aktionen sichtbar, überprüfbar und reversibel. Er erstellt ein Prüfprotokoll mit unveränderlichen Momentaufnahmen, das ein sicheres Zurücksetzen erlaubt. Aktuelle Observability-Tools zeigen nur, was passiert ist, aber nicht, warum oder wie risikoreiche Aktionen rückgängig gemacht werden können.
„Agent Rewind schließt die Lücke zwischen dem, was passiert ist, warum es passiert ist und wie es rückgängig gemacht werden kann“, so Chad Pallett, Chief Information Security Officer bei BioIVT, einem globalen Forschungspartner und Anbieter von Biospecimen-Lösungen für die Arzneimittel- und Diagnostikentwicklung. „Bei der Verwendung von KI sind Beobachtung und sichere Wiederherstellung erforderlich. Rubrik und Predibase bieten nicht nur Datensicherheit und Modellgeschwindigkeit, sondern auch die Möglichkeit, KI wiederherzustellen.“
Folgende Features biete die Lösung:
- Kontextbezogene Sichtbarkeit: Erfasst Agentenverhalten und dessen Auswirkungen sowie die Verwendung von Tools. Jede Aktion wird in einen Kontext gesetzt und auf ihre Ursache zurückgeführt – von Prompts über Pläne bis hin zu Tools. Dies erlaubt eine präzise Wiederherstellung, wenn etwas schiefgeht.
- Sichere Rollbacks: Verwendet Rubrik Security Cloud, um Änderungen zurückzusetzen, unabhängig davon, ob es sich um Dateien, Datenbanken, Konfigurationen oder Repositorys handelt.
- Breite Kompatibilität: Nahtlose Integration mit einer Vielzahl von Plattformen, APIs und Agenten-Erstellern, darunter Agentforce, Microsoft Copilot Studio und Amazon Bedrock Agents. So sei Agent Rewind mit jedem benutzerdefinierten KI-Agenten kompatibel
Lesen Sie mehr zum Thema
