Glossar: Zentrale Begriffe rund um generative KI und Cybersecurity

KI-Kompetenzen (AI Literacy)

Beschreibt grundlegende Kenntnisse und Fähigkeiten im Umgang mit Künstlicher Intelligenz. Dazu gehört ein Verständnis dafür, wie KI-Systeme funktionieren und welche Risiken oder Fehler auftreten können.

Schatten-KI (Shadow AI)

Bezeichnet die Nutzung von KI-Tools durch Mitarbeitende ohne offizielle Freigabe oder Kontrolle durch die IT-Abteilung. Ähnlich wie bei „Schatten-IT“ entstehen dabei Sicherheits- und Compliance-Risiken, etwa durch die Verarbeitung sensibler Unternehmensdaten in nicht genehmigten Cloud-Diensten.

Schatten-IT

IT-Lösungen oder Software, die außerhalb der offiziellen Unternehmensinfrastruktur eingesetzt werden. Dazu zählen beispielsweise privat genutzte Cloud-Dienste oder KI-Tools, die ohne Abstimmung mit IT- oder Sicherheitsverantwortlichen verwendet werden.

Generative KI

Form der Künstlichen Intelligenz, die eigenständig neue Inhalte erzeugt – etwa Texte, Bilder, Audio oder Programmcode. Grundlage sind meist sogenannte Large Language Models (LLMs), die auf großen Datenmengen trainiert wurden.

LLM (Large Language Model)

Großes Sprachmodell, das auf umfangreichen Textdaten trainiert wurde und natürliche Sprache verstehen und erzeugen kann. Beispiele sind ChatGPT oder Gemini.

Reconnaissance (Aufklärungsphase)

Frühe Phase eines Cyberangriffs, in der Angreifer systematisch Informationen über Zielsysteme, Netzwerke und potenzielle Schwachstellen sammeln, um spätere Angriffe vorzubereiten.

Phishing

Betrugsmasche, bei der Angreifer gefälschte Nachrichten (z. B. E-Mails) versenden, um Empfänger zur Preisgabe sensibler Daten oder zum Anklicken schadhafter Links zu verleiten.

Vishing (Voice Phishing)

Eine Form des Phishings per Telefon oder Sprachkommunikation. Angreifer geben sich beispielsweise als Bankmitarbeiter oder Führungskräfte aus, um vertrauliche Informationen oder Überweisungen zu erwirken.

Voice Cloning

Technologie zur künstlichen Nachbildung einer realen Stimme. Mithilfe generativer KI kann eine Person täuschend echt imitiert werden – etwa für Betrugsversuche im Rahmen von Vishing-Angriffen.

Dark-LLMs

Large Language Models, die gezielt für kriminelle Zwecke entwickelt oder modifiziert wurden. Sie sind häufig über Dark-Web-Kanäle zugänglich und unterstützen beispielsweise beim Erstellen von Schadcode oder Phishing-Kampagnen.

Indirect Prompt Injection

Manipulationstechnik, bei der ein KI-System über versteckte Anweisungen in externen Datenquellen (z. B. E-Mails oder Webseiten) dazu gebracht wird, unerwünschte Inhalte auszugeben oder Aktionen auszuführen.

Zero-Click Exploit

Sicherheitslücke, bei der ein Angriff ohne aktive Handlung des Nutzers ausgelöst werden kann – etwa durch das automatische Verarbeiten einer manipulierten Nachricht durch ein KI-System.

Kill Switch (Notfallabschaltung)

Vordefinierter Mechanismus, mit dem ein KI-System im Ernstfall sofort eingeschränkt oder vollständig deaktiviert werden kann. Wichtig im Rahmen von Notfall- und Compliance-Strategien.

KI-Governance

Organisatorischer und regulatorischer Rahmen für den verantwortungsvollen Einsatz von KI. Umfasst klare Zuständigkeiten, Risikomanagement, Transparenz, Dokumentation und Überwachungsmechanismen.

EU AI Act

Europäische Verordnung zur Regulierung von KI-Systemen. Sie definiert Anforderungen je nach Risikokategorie eines KI-Systems und verpflichtet Betreiber und Anbieter zu bestimmten Sicherheits- und Transparenzmaßnahmen.

KRITIS (Kritische Infrastrukturen)

Organisationen und Einrichtungen, deren Ausfall gravierende Auswirkungen auf Gesellschaft, Wirtschaft oder staatliche Sicherheit hätte – etwa Energieversorgung, Gesundheitswesen oder Telekommunikation.