Jedoch kommt KI nicht nur in Security-Lösungen zum Einsatz, auch Cyberkriminelle nutzen die Technologie, um ihre Angriffe zu verbessern. So verändern sie etwa ihre Malware gezielt mit KI, um immer neue Varianten zu schaffen, die den Scan-Engines der Security-Hersteller entgehen. Oder sie erstellen mit KI-Hilfe individuell angepasste Mails für Phishing oder die Malware-Verteilung, die auch sicherheitsbewusste Anwender nur noch schwer von echten Mails ihrer Geschäftskontakte unterscheiden können. Hacker könnten sich durch Daten-Leaks riesige Datenbanken zunutze machen und verarbeiten, erklärt Martens, und dadurch Phishing-Mails erstellen, die »erschreckend echt erscheinen«.
Auch Emotet war auf diese Weise sehr erfolgreich, wie Werner berichtet. Die Malware habe auf befallenen Clients den Mail-Verkehr der letzten 180 Tage heruntergeladen und »höchstwahrscheinlich maschinell ausgewertet. Die hieraus gewonnenen Informationen wurden anschließend für die Erstellung weiterer Angriffs-E-Mails mit persönlichem Zusammenhang – beispielsweise unter Bezugnahme auf einen früheren E-Mail-Verkehr – verwendet.« Insofern ist KI im Security-Bereich mittlerweile bereits eine Notwendigkeit, um im andauernden Katz-und-Maus-Spiel mit Cyberkriminellen nicht ins Hintertreffen zu geraten.