Das Sicherheitsunternehmen Ivanti hat eine Studie veröffentlicht, die sich mit der ambivalenten Einstellung von Sicherheitsteams mit Blick auf generative KI (GenAI) beschäftigt.
Der Bericht mit dem Titel „Generative KI und Cybersicherheit: Chancen und Risiken“ untersucht, wie Organisationen die Herausforderungen und Chancen von GenAI im Bereich Cybersicherheit bewältigen.
Ein Aspekt der Ivanti-Studie: Unternehmen verfolgen bislang einen uneinheitlichen Ansatz für KI. Die meisten wissen, dass Künstliche Intelligenz ein Risiko für das Unternehmen darstellt, aber zu viele haben keine Strategie, um auf KI-Bedrohungen zu reagieren.
Laut der Studie ist der Optimismus gegenüber generativer KI unter Sicherheitsexperten groß. Fachkräfte sind achtmal häufiger der Ansicht, dass generative KI sich positiv auf die Sicherheit auswirkt, als dass sie negative Folgen haben könnte.
Allerdings geben auch 72 Prozent an, dass ihre IT- und Sicherheitsdaten weiterhin in Silos isoliert vorliegen. Damit KI eine Rolle in der Cyberabwehr spielen kann, ist sie auf leicht zugängliche Echtzeitdaten angewiesen. Das heißt, die zunehmende Leistungsfähigkeit von GenAI kann nur dann wirksam werden, wenn die KI Zugriff auf einwandfreie, validierte, standardisierte und vor allem hochverfügbare Daten in allen Anwendungen und Systemen sowie für alle Nutzer hat.
In dem Fall schützt KI durch eine optimierte Bedrohungserkennung, die Fähigkeit, proaktive Prognosen kommender Bedrohungen zu treffen und in Echtzeit zu reagieren. Dies setzt allerdings voraus, dass Unternehmen in der Lage sind, ihre Datensilos aufzulösen.
Generative KI gilt als leistungsstarkes Werkzeug, um Organisationen zu schützen. Allerdings wird diese Technik auch von Angreifern eingesetzt, um zunehmend ausgefeiltere Phishing-Angriffe durchzuführen. Die Untersuchung von Ivanti zeigt, dass 45 Prozent der weltweit Befragten Phishing als die Bedrohung ansehen, deren Erfolgsquote durch GenAI am stärksten zunimmt (in Deutschland ebenfalls 45 Prozent).
Obwohl Schulungen ein wesentlicher Bestandteil einer mehrschichtigen Cybersicherheitsstrategie sind, haben viele Organisationen ihre Trainingsmethoden bislang noch nicht an KI-gestützte Bedrohungen angepasst. Tatsächlich geben 57 Prozent der Organisationen an, Anti-Phishing-Schulungen durchzuführen, um sich gegen ausgeklügelte Social-Engineering-Angriffe zu schützen. Dennoch halten nur 32 Prozent diese Schulungen für „sehr effektiv“.
„Mit der Weiterentwicklung von GenAI muss auch das Verständnis für ihre Auswirkungen auf die Cybersicherheit wachsen“, erklärt Robert Grazioli, Chief Information Officer bei Ivanti. „GenAI bietet Sicherheitsexperten mächtige Werkzeuge. Gleichzeitig gibt sie jedoch auch Angreifern fortschrittliche Fähigkeiten an die Hand. Neue Strategien sind erforderlich, um bösartig-genutzte KI abzublocken. Ohne passende KI-Konzepte werden es SecOp-Teams daher schwer haben.“