Startseite > Security > Fake News: Das neue trojanische Pferd in Zeiten von KI

Kritische Infrastruktur Medien

Fake News: Das neue trojanische Pferd in Zeiten von KI

16. November 2023, 13:00 Uhr | Autorin: Kim Seidler / Redaktion: Diana Künstler

Falschmeldungen werden zur Massenware. Sie sind mühelos und täuschend echt erstellt und stehen bereit, unbemerkt in Redaktionssysteme eingeschleust zu werden. Wie realistisch es ist, Falschmeldungen in Medienhäuser zu schleusen? Und wie können die Medien ihre IT-Systeme schützen?

Der Artikel beantwortet unter anderem folgende Fragen:

Welche Medienunternehmen waren 2023 unter anderem von Cyberattacken betroffen?
Welcher Schaden kann dadurch entstehen? Welche Motivation steckt dahinter?
Wie könnte eine fiktive Falschmeldung, generiert von ChatGPT, aussehen?
Wie anfällig sind Medienhäuser für Cyberangriffe?
Mit welchen Maßnahmen und Mitteln können sich Medienhäuser schützen?
Warum sollten sich Medienhäuser an der NIS2-Richtlinie orientieren?

Phishing beim Bayerischen Rundfunk¹, Ransomware bei der Schweizer NZZ² oder das Datenleak beim Medienhaus VRM³ – die Vorfälle aus dem Jahr 2023 in Deutschland bestätigen: auch Medienunternehmen sind anfällig für Cyberattacken. Doch nicht nur das Abgreifen von sensiblen personenbezogenen Daten, geschäftskritischer Informationen oder gar die Betriebsstörungen der Medienhäuser sind mögliche Horrorszenarien. Gezielt gestreute Desinformationen können über die Reichweite und Glaubwürdigkeit der etablierten Mediensender realen Schaden anrichten. Im März 2022 zum Beispiel war auf einem ukrainischen TV-Sender ein Deep Fake-Video, in dem Präsident Wolodymyr Selenskyj Worte der Kapitulation an sein Volk richtete⁴, zu sehen. Minuten später dann die Entwarnung: ein Fake. Dennoch machte es weltweit Schlagzeilen. In Zeiten von KI und wachsender Cyberkriminalität können solche Angriffe auf die Gesellschaft rasant schnell ablaufen.

Matchmaker+ Anbieter zum Thema

zu Matchmaker+

So oder so ähnlich wie hier rechts im Bild könnte eine Falschmeldung aussehen – ChatGPT und Co. machen es heute so leicht wie nie zuvor. Generative KI wie unter anderem ChatGPT (Text), Midjourney (Foto) oder Make-A-Video (Video) fabrizieren täuschend echtes Material. Einmal in Umlauf gebracht und das Horrorszenario beginnt.

Die kriminellen Anreize existieren und die Technologie macht es möglich. Dabei ist jedes Unternehmen gefährdet, denn das Einschleusen von Fake News ist nichts anderes als eine andere Form einer Cyberattacke. Laut Digitalverband Bitkom⁵ waren neun von zehn Unternehmen 2021 von Datendiebstahl, Industriespionage oder Sabotage betroffen. Gezielte Fake News sind in der Lage, die Medienlandschaft als Teil der kritischen Infrastruktur riskant zu sabotieren.

Das Risiko wächst

Generative KI-Modelle sind darauf trainiert, zu imitieren. Authentisch wirkende Artikel, die den journalistischen Standards und den gängigen Formaten entsprechen, sind insbesondere in der rasanten, hektischen Medienwelt gefährlich. Hat es die Falschmeldung einmal durch ein Einfallstor in die Redaktionssysteme geschafft, verbreitet sie sich wie ein Lauffeuer über traditionelle Kanäle – die Dynamik der sozialen Plattformen tut ihr Übriges. Dabei geht es nicht nur um harmlose, amüsante Täuschungen. Gezielte Manipulationen, sei es aus politischen oder wirtschaftlichen Motiven, können erheblichen Schaden anrichten. Ein falscher Bericht über den finanziellen Zusammenbruch eines Unternehmens könnte dessen Aktienwert in kürzester Zeit sinken lassen. Selbst wenn die Falschmeldung später korrigiert wird, könnte der Schaden irreparabel sein, sowohl finanziell als auch für das Ansehen des betroffenen – etwa öffentlich-rechtlichen – Medienhauses und das Vertrauen in die Medien allgemein.

Mit fortschrittlichen KI-Tools wie ChatGPT, wird das Einspeisen von Desinformationen in Mediensysteme zu einer realen Bedrohung. Aber wie anfällig sind unsere Medienhäuser für solche Angriffe wirklich?

Die Nachrichten unter Beschuss

Die Antwort ist beunruhigend: Es ist technisch möglich, und obwohl es nicht einfach ist, sind solche Cyberangriffe mit genügend krimineller Motivation und der aussichtsreichen Beeinflussung der Gesellschaft und Wirtschaft durchaus attraktiv. Die Automatisierung solcher Angriffe macht sie noch verlockender, da sie mit minimalem menschlichen Eingriff durchgeführt werden können.

Die Medienlandschaft hat sich in den letzten Jahren drastisch verändert. Der Großteil der Medienunternehmen verlassen sich auf digitalisierte Prozesse, von der Programmplanung bis zur automatisierten Veröffentlichung von Inhalten. Diese Abhängigkeit von IT-Systemen macht sie anfälliger. Ein erfolgreicher Cyberangriff auf ein Medienhaus kann nicht nur das betroffene Unternehmen schädigen, sondern auch erhebliche Auswirkungen auf die Politik, Wirtschaft und Gesellschaft haben, weswegen Medien zur kritischen Infrastruktur zählen. Um sich gegen solche Bedrohungen zu schützen, müssen auch Medienhäuser massiv in Cybersicherheit investieren.

Leitfaden für die IT-Sicherheit

Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) sind Medien KRITIS-relevant⁶, daher ist ihnen gut geraten, sich bereits jetzt an der EU NIS2-Direktive⁷ zu orientieren. Sicherlich ist es unabdingbar, in die regelmäßige Schulung von Mitarbeitenden zu investieren. So werden alle Beteiligten für die Gefahren von Phishing, unsicheren Passwörtern und anderen Bedrohungen wie eben dem Einschleusen von Falschmeldungen sensibilisiert. Tools wie Passwortmanager und Multifaktor-Authentifizierung können helfen, die Benutzerkonten effektiv vor dem Diebstahl von Zugangsdaten absichern.

Medienunternehmen sollten ihren Mitarbeitenden aber nicht nur wirksame Tools an die Hand geben und ihnen die Verantwortung für die IT-Sicherheit geben. Zusätzlich ist es wichtig, die Software immer auf dem neuesten Stand zu halten und in fortschrittliche Sicherheitstechnologien zu investieren. Gerade bei Medienhäusern, die bekannterweise mit vielen Freiberuflern und externen Dienstleistern zusammenarbeiten, ist ein feingliedriges Berechtigungsmanagement wichtig, sodass jeder User nur die Zugriffsrechte erhält, die er auch wirklich für seine Arbeit benötigt. Sollten Hacker an die Zugangsdaten eines Mitarbeitenden kommen, lässt sich der Schaden durch ein strenges Berechtigungsmanagement begrenzen. Weitere Investitionen für die IT-Sicherheit sind eine starke Firewall- und Antiviren-Software, aber auch moderne Intrusion-Detection-Systeme, die heutzutage KI-basiert extrem leistungsstark sind.

Die Einrichtung von Security Operations Centern (SOC) und Incident Response-Plänen, um schnell auf Sicherheitsvorfälle reagieren zu können, ist von großer Bedeutung. Ein SOC überwacht und analysiert die Sicherheitslage eines Unternehmens rund um die Uhr und kann so schnell auf potenzielle Sicherheitsvorfälle reagieren. Als Teil der SOC kann der Einsatz von Endpoint Detection and Response (EDR)-Lösungen Anomalien und Bedrohungen in Echtzeit erkennen und das Medienunternehmen handlungsfähig machen.
Sollte es zu einem Sicherheitsvorfall kommen, legt ein Incident Response-Plan klare Verantwortlichkeiten und Vorgehensweisen fest.

Abschließend sind externe Sicherheits-Audits ebenfalls sehr Erfolg versprechend darin, potenzielle Schwachstellen und blinde Flecken aufzudecken. Das Medienunternehmen hat so die Chance, seine Sicherheitslage und -strategien zu testen und Mängel zu beheben. Es ist empfehlenswert, jährlich ein sogenanntes Red Teaming durchführen zu lassen. Hierbei werden nicht nur die Systeme einer Organisation getestet, sondern Szenarien-basiert auch die Mitarbeitenden sowie die Reaktionen der IT-Verantwortlichen im Falle eines Vorfalls.

Fake News sind eine ernstzunehmende Bedrohung

Durch ihre Reichweite und Glaubwürdigkeit sind Medienunternehmen auf dem Radar der Cyberkriminellen. IT-Verantwortliche in Medienhäusern müssen über die Vielzahl an Cybergefahren im Klaren sein und präventive Maßnahmen treffen. Dazu gehört eine unternehmensweite Sicherheitsmentalität, regelmäßige Software-Updates oder die Integration fortschrittlicher Sicherheitssysteme. Regelmäßige Sicherheits-Audits von externen Dienstleistern können die eigenen Sicherheitspraktiken gründlich durchleuchten und eventuelle blinde Flecken ans Licht bringen.

Denn erfolgreich platzierte Falschmeldungen schädigen nicht nur den Ruf und das Vertrauen in die öffentlichen Medien, sie sind ein Angriff auf die öffentliche Sicherheit und Ordnung.

^{1 https://www.br.de/unternehmen/pishing-angriff-br-100.html}^{2 https://unternehmen.nzz.ch/2023/05/cyberangriff-auf-das-unternehmen-nzz-veroeffentlichung-von-nzz-daten-im-darknet/}
^{3 https://vrm.de/cyberangriff-kundendaten-betroffen/}
^{4 https://www.telegraph.co.uk/world-news/2022/03/17/deepfake-video-shows-volodymyr-zelensky-telling-ukrainians-surrender/}
^{5 https://www.bitkom.org/Kurzpositionen/Cybersicherheit-Sicherheitstechnologien}
^{6 https://www.bsi.bund.de/DE/Themen/KRITIS-und-regulierte-Unternehmen/Kritische-Infrastrukturen/Allgemeine-Infos-zu-KRITIS/allgemeine-infos-zu-kritis_node.htm}
^{7 https://digital-strategy.ec.europa.eu/de/policies/nis2-directive}