Startseite > Security > Cyberagentur schreibt Projekt zur digitalen Forensik aus

Manipulation intelligenter Systeme

Cyberagentur schreibt Projekt zur digitalen Forensik aus

11. September 2023, 7:30 Uhr | Diana Künstler

Die Cyberagentur hat den Forschungsauftrag „Forensik intelligenter Systeme“ veröffentlicht. Damit sollen Manipulationen an sich weiterentwickelnden intelligenten Systemen mithilfe von neuen forensischen Methodiken und Tools detektierbar und rechtssicher nachweisbar gemacht werden.

Die forensische Untersuchung von KI-Systemen hat eine hohe Relevanz für die Strafverfolgung in Deutschland. Daher wurde das neue Forschungsprojekt „Forensik intelligenter Systeme“¹ entwickelt und am 8. September 2023 veröffentlicht. Das Projektteam um Lars-Martin Knabe als Projektleiter, Olivia Gräupner und Til Weißflog hat Unternehmen und Organisationen aus den Bereichen der IT-Forensik, der Künstlichen Intelligenz und der Strafverfolgung aufgerufen, einen Teilnahmeantrag zur Detektion von Manipulationen an sich weiterentwickelnden intelligenten Systemen mithilfe von neuen forensischen Methodiken und Tools abzugeben.

Matchmaker+ Anbieter zum Thema

zu Matchmaker+

Ziel: Manipulation intelligenter Systeme rechtssicher detektieren

Für einen Forschungszeitraum von vier Jahren sollen die Interessenten, die sich aus Hochschulen, Universitäten, Unternehmen, Start-ups und weiteren Institutionen zusammensetzen können, einen Teilnahmeantrag bis zum 25. Oktober 2023 einreichen. In den Anwendungsbereichen der Bildverarbeitung, der Textverarbeitung und der autonomen Systeme werden wissenschaftlich untermauerte und bahnbrechende Ergebnisse innerhalb des Forschungsprojektes erwartet. Weiterhin geht es um rechtlich fundierte Erkenntnisse für das Aufdecken, die Sichtung und Analyse von Spuren in KI-Systemen unterschiedlichster Art sowie die Schaffung von Tools.

Die Zielstellung ist es, im Falle von Manipulation, Tatbestände eines Verbrechens, Vergehens und maliziöser Handlungen etwaige Täter festzustellen und diese zu ahnden. Bei Erfolg sind aus den wissenschaftlich gewonnenen Erkenntnissen gesetzliche Rahmenbedingungen sowie Anforderungen und Standards zu formulieren und umzusetzen. Die durch die aufgeworfenen Fragestellungen entstehende Komplexität des Themas „Forensik intelligenter Systeme“ benötigt interdisziplinäre Forschung, welche Grundlage der IT-Forensik ist.

Über die IT-Forensik
Die IT-Forensik beschreibt laut Cyberagentur die Sicherung und Analyse von Daten aus IT-Systemen mit wissenschaftlichen Methoden. Mithilfe der streng methodischen Datenanalyse werden Sachverhalte vor Gericht bewiesen. Die digitale Forensik spielt im Anwendungskontext künstliche Intelligenz ebenfalls eine entscheidende Rolle, da neben der privaten Verwendung KI-Systeme auch in Unternehmen vielfach vernetzt eingesetzt werden. Das Verständnis dafür, wann und warum sich weiterentwickelnde und selbst überschreibende KI-basierte Techniken versagen, muss daher mit forensischen Methodiken und Tools analysiert und verbessert werden.

Über die IT-Forensik

Die IT-Forensik beschreibt laut Cyberagentur die Sicherung und Analyse von Daten aus IT-Systemen mit wissenschaftlichen Methoden. Mithilfe der streng methodischen Datenanalyse werden Sachverhalte vor Gericht bewiesen. Die digitale Forensik spielt im Anwendungskontext künstliche Intelligenz ebenfalls eine entscheidende Rolle, da neben der privaten Verwendung KI-Systeme auch in Unternehmen vielfach vernetzt eingesetzt werden. Das Verständnis dafür, wann und warum sich weiterentwickelnde und selbst überschreibende KI-basierte Techniken versagen, muss daher mit forensischen Methodiken und Tools analysiert und verbessert werden.

Um die Expertisen aus den verschiedenen Forschungsbereichen zu bündeln, besteht hier die Möglichkeit, dass sich aus den einzelnen Interessenten Konsortien bilden können. In einem vorgeschalteten Partnering-Event² konnten sich am 5. April 2023 erste Interessenten bereits einander kennenlernen sowie erste Erfahrungen austauschen. Die jetzige Ausschreibung ist aber über die Teilnahme an dem Partnering-Event hinaus offen für alle Interessenten.

Durch rechtliche Beweisbarkeit und Nachvollziehbarkeit der KI oder anderer sich selbst weiter entwickelnder Systeme sollen die Sicherheitsbehörden und Streitkräfte der Bundesrepublik Deutschland in die Lage versetzt werden, das Recht zu wahren und umzusetzen, welches die gesamte Breite der Gesellschaft repräsentiert. Die Systeme, die sich im Ergebnis aus dem Projekt entwickeln, könnten von den Polizeibehörden genutzt werden.

Im Supplement zum Amtsblatt der Europäischen Union wurde die Ausschreibung mit der Vergabenummer 2023/S 173-539245 veröffentlicht³.

^{1 https://www.cyberagentur.de/fis/

2 https://www.cyberagentur.de/partnering-event-zu-unserem-forschungsprojekt-forensik-intelligenter-systeme/

3 https://www.evergabe-online.de/tenderdetails.html?3&id=536409}