Cisco stellt „AI Defense“ vor
Sichere KI-Transformation für Unternehmen
Cisco hat mit „AI Defense“ eine intelligente Lösung vorgestellt, die Unternehmen bei der sicheren Einführung und Nutzung von KI-Anwendungen unterstützten soll. Mit dem Fortschritt der KI-Technik entstehen komplexe Sicherheitsrisiken, denen herkömmliche Security-Lösungen nicht gewachsen sind.
Cisco AI Defense wurde speziell dazu entworfen, Unternehmen eine sichere und vertrauensvolle Entwicklung, Bereitstellung und Nutzung von KI-Anwendungen zu ermöglichen. „Bei der Einführung von KI können es sich Unternehmen nicht leisten, Sicherheit zugunsten von Geschwindigkeit zu opfern“, so Jeetu Patel, Executive Vice President und Chief Product Officer bei Cisco. „In einer dynamischen, wettbewerbsintensiven Welt ist allerdings Geschwindigkeit der Schlüssel zum Erfolg. Cisco AI Defense integriert sich nahtlos in die Netzwerkstruktur und ermöglicht es so, Bedrohungen sowohl bei der Entwicklung als auch beim Zugriff auf KI-Anwendungen zuverlässig zu erkennen und zu verhindern – ohne Kompromisse bei Sicherheit oder Effizienz.“
Ein zentrales Hindernis für die breite Einführung von KI in Unternehmen sei die Sorge um Sicherheit und Zuverlässigkeit. Inkonsistente Sicherheitsmaßnahmen der einzelnen Modellanbieter und unterschiedlichen KI-Infrastrukturen erschweren Firmen eine durchgängige Absicherung. Der Aufbau separater Sicherheitslösungen im IT-Netzwerk für jede Anwendung ist komplex, ineffizient und fehleranfällig.
Cisco adressiert diese Herausforderungen nach eigenen Angaben mit einer einheitlichen Sicherheitsplattform, die konsistente Schutzmaßnahmen über alle Modelle und Anwendungen hinweg bietet. Diese Lösung wurde entwickelt, um die vielschichtigen Anforderungen moderner KI-Landschaften zu erfüllen und Unternehmen die sichere Nutzung von KI zu ermöglichen.
Die Nutzung proprietärer Daten zur KI-Modellschulung durch Unternehmen erhöht die Risiken von Datenabfluss und -manipulation. Gleichzeitig zeigt der Cisco AI Readiness Index 2024, dass nur 29 Prozent der weltweit Befragten darauf vorbereitet sind, unbefugte Manipulationen und Sicherheitsbedrohungen im Zusammenhang mit KI zu erkennen und zu verhindern. In Deutschland sind dies sogar nur 23 Prozent.
AI Defense biete eine einheitliche Sicherheitsschicht, die Unternehmen auf ihrem Weg zur KI-Transformation begleitet, indem sie zwei zentrale Problemstellungen adressiert:
Entwicklung und Bereitstellung sicherer KI-Anwendungen: AI Defense stellt „Sicherheitsleitplanken“ bereit, die plattformübergreifend Bedrohungen und Angriffe abwehren. Zu den Funktionen gehören:
- Einblick in die KI-Nutzung: Sicherheitsteams müssen informiert sein, wer KI-Anwendungen erstellt und welche Trainingsquellen dafür genutzt werden. AI Defense erkennt dazu Schatten- und sanktionierte KI-Anwendungen in öffentlichen und privaten Clouds.
- Modellvalidierung: Die Optimierung von KI-Modellen kann zu unerwarteten oder gar schädlichen Ergebnissen führen. Beim Feinabstimmen eines Modells auf spezifische Daten oder Szenarien können unbeabsichtigte Verzerrungen oder Fehler in die Modellentscheidungen eingeschleust werden. Dies kann dazu führen, dass das Modell in realen Einsatzszenarien falsch reagiert, unethische Entscheidungen trifft oder sogar manipuliert wird. Durch automatisierte Tests werden KI-Modelle auf Hunderte potenzieller Sicherheitslücken geprüft. Dieses KI-gesteuerte „Algorithmus-Red-Team“ identifiziert potenzielle Schwachstellen und empfiehlt Maßnahmen für die KI-Verteidigung.
- Sicherheit im laufenden Betrieb: Um die Integrität und Sicherheit der KI-Anwendungen zu gewährleisten, überwacht und validiert AI Defense die KI-Systeme kontinuierlich. Ziel ist es, potenzielle Sicherheitsbedrohungen wie Prompt-Injektionen, Denial-of-Service-Angriffe und Datenlecks kontinuierlich zu verhindern.
Sicherung des Zugriffs auf KI-Anwendungen: Mit der schnellen Einführung von KI-Anwendungen stehen Sicherheitsteams vor der Herausforderung, Datenlecks und die Manipulation sensibler Informationen zu verhindern. AI Defense unterstützt dabei mit:
- Sichtbarkeit: Die Lösung liefert einen Überblick über alle von Mitarbeitern genutzten KI-fähigen Anwendungen, einschließlich aller nicht autorisierten Tools.
- Zugangskontrolle: AI Defense implementiert Richtlinien, die den Zugriff der Mitarbeiter auf nicht genehmigte KI-Tools einschränken.
- Schutz vor Daten und Bedrohungen: Die Lösung sichert sensible Daten kontinuierlich ab und unterstützt bei der Compliance-Einhaltung.
Anders als Sicherheitsstrukturen, die nur in einzelne KI-Modelle integriert sind, will Cisco konsistente Kontrollen für die Nutzung vieler Modelle bieten. AI Defense nutzt proprietäre maschinelle Lernmodelle und Daten aus Splunk sowie der Cisco Talos Threat Intelligence, um kontinuierlich neue Sicherheitsrisiken zu erkennen.
Die Lösung integriere sich nahtlos in bestehende Datenflüsse, um Transparenz und Kontrolle zu gewährleisten. Eingebettet in die Cisco Security Cloud ist AI Defense darauf optimiert, Cloud Security und Sicherheit direkt im Enterprise Network umzusetzen. Genauigkeit und Vertrauenswürdigkeit sind dabei für den Schutz von KI-Anwendungen in Unternehmen unabdingbar. Cisco hat sich daher aktiv an der Entwicklung von KI-Sicherheitsstandards beteiligt, einschließlich der Standards von MITRE, OWASP und NIST.
AI Defense soll ab März 2025 verfügbar sein und ergänzt Ciscos umfassendes Portfolio an KI-gestützten Sicherheitslösungen, darunter Cisco Hypershield.
Lesen Sie mehr zum Thema
