Schatten KI in Unternehmen
Gefährliche KI-Nutzung durch die Hintertür
Schatten-KI beschreibt den Einsatz von nicht genehmigter Künstlicher Intelligenz (KI) in Unternehmen. Ohne eine Freigabe bewegen sich die Mitarbeiter dieser Unternehmen im Schatten des rechtlich Zulässigen.
Für Unternehmen kann der Einsatz von KI zu erheblichen Risiken für die eigenen Werte führen – mit der richtigen KI-Strategie aber auch zu echten Wettbewerbsvorteilen. Laut einer Dell-Umfrage im vergangenen Jahr sind die Befragten überzeugt, dass KI zwei Game-Changer hervorbringt: Stärkung der Cybersicherheit und die Erhöhung der Produktivität. Unternehmen sind daher gefordert, der KI-Nutzung Ihrer Mitarbeiter zeitnah einen Rahmen zu schaffen.
Tech-Konzerne trainieren uns im Umgang mit KI
Warum warten Mitarbeiter nicht auf die Freigabe von KI im Unternehmen? Ganz einfach: Der Einsatz von KI ist bereits selbstverständlich geworden. Nicht zuletzt, da große Tech-Konzerne ihre Devices, Apps und Services mit KI als Wettbewerbsvorteil angereichert haben. Im Zuge der Consumerization nimmt der Mensch privat Gelerntes ganz natürlich mit in die Arbeitswelt.
Mitarbeiter verwenden KI beispielsweise zum Anreichern und Erstellen von Texten, Bildern, Videos oder anderen Datenformen sowie bei der Unterstützung im Alltag wie zum Beispiel einer Terminfindung. Laut einer Umfrage von Microsoft und LinkedIn im März des vergangenen Jahres nutzen sieben von zehn Beschäftigte KI, ohne dass diese Tools vom Arbeitgeber bereitgestellt werden. Der Grund für ist einfach und auch bisher stets Bestandteil von Innovationen gewesen: KI macht die Arbeit leichter.
KI im Schutzdenken der Unternehmenswerte berücksichtigen
Zwei Themen bereiten den Verantwortlichen in den Unternehmen besonderes Kopfzerbrechen: Datenschutz und IT-Sicherheit. Wie bei allen IT-Tools auch, muss auch die KI diesbezüglich betrachtet werden.
Ein wesentliches Problem bei der unerlaubten Nutzung von KI-Tools ist der Datenschutz. KI sammelt und verarbeitet eine große Menge an Daten, einschließlich personenbezogener Daten. Ohne eine Übersicht und Kontrolle über die genutzten Tools und deren Datenschutzpraktiken kann ein Unternehmen leicht gegen Gesetze wie die Datenschutz-Grundverordnung (DSGVO) verstoßen. Zum Beispiel durch eine unkontrollierte Datenerfassung: KI speichert und lernt aus Unternehmensdaten und personenbezogenen Daten. Ohne angemessene Sicherheitsvorkehrungen des Anbieters gelangen diese oft sensiblen Daten unkontrolliert ins Netz.
Viele KI-Tools sind Cloud-basierend und speichern Daten auf Servern, die sich in Ländern außerhalb der EU befinden, sogenannte Datenschutz-Drittländer. Manche dieser Länder verfügen nichtüber ein vergleichbares Datenschutzniveau wie die EU und dürfen Daten beliebig verarbeiten oder veräußern. Ohne entsprechende Einwilligung führt die mögliche Weitergabe daher zum Verstoß. Werden diese Tools jedoch ohne Wissen einer Person und des Datenschutzbeauftragten des Unternehmens verwendet, verstößt der KI-Nutzer gegen die DSGVO. Bußgelder und Klagen können folgen und einen erheblichen finanziellen Schaden und Imageverlust für das Unternehmen mit sich bringen.
Die Weitergabe von sensiblen Informationen an eine KI könnte das geistige Eigentum und Geschäftsstrategien des Unternehmens gefährden. Hand in Hand geht bei einem Vorfall der Vertrauensverlust seitens Mitarbeiter und Kunden. Darüber hinaus sind folgende Risiken für die IT-Sicherheit abzuwägen: Nicht autorisierte KI-Tools können, wie alle IT-Tools, Sicherheitslücken aufweisen, die von Cyberkriminellen ausgenutzt werden. Dadurch kann Malware eingeschleust werden.
Durch die Nutzung von KI-Tools außerhalb der unternehmenseigenen Infrastruktur, verliert das Unternehmen die Kontrolle über die Datenflüsse. So gelangen sensible Informationen ungewollt nach außen. Auch KI-Tools in der Cloud sollte man individuell betrachten und eine Risikoabschätzung erstellen.
Finanzielle Risiken bestehen in unkontrollierten doppelten Ausgaben für KI-Tools, wenn diese statt der offiziellen und sanktionierten Technik genutzt oder von Mitarbeitern mehrfach gekauft werden.
Viele KI-Tools, die Mitarbeiter eigenständig nutzen, entsprechen möglicherweise nicht den notwendigen Sicherheitsprotokollen oder Verschlüsselungstechniken, die in einem Unternehmensumfeld erforderlich sind. Dies führt zur fehlenden Implementierung von Überwachung und Kontrollmechanismen. Fehlt eine kontinuierliche sowie lernende Netzwerküberwachung, fehlen regelmäßige Audits und fehlen Zugriffskontrollen erhöht sich das Risiko von Sicherheitsvorfällen.
Ein funktionelles Risiko besteht in einem Modelldrift. Eine Drift tritt dann auf, wenn eine Abweichung in der ordnungsmäßigen Bearbeitung des KI-Modells vorliegt. Beispielsweise durch falsche oder veraltete Trainingsdaten oder technische Veränderungen. Dies führt auch zu schlechten Ergebnissen, falschen Informationen oder fraglichen Ratschlägen.
Nicht zuletzt stellt Gewohnheit und somit die zeitliche Nutzung nicht genehmigter Tools ein Risiko darf. Je länger Anwender ein Tool nutzen und sich daran gewöhnen, desto höher ist die Gefahr der Ablehnung bei der Einführung offizieller KI-Tools oder auch der Umschulungsaufwand.
- Gefährliche KI-Nutzung durch die Hintertür
- Wie können Unternehmen der Schatten-KI begegnen?
Lesen Sie mehr zum Thema
