Wie aus einem Apfel ein iPod wird
So leicht lässt sich die KI austricksen
Fortsetzung des Artikels von Teil 1
Wie man aus einer Kettensäge ein Sparschwein macht
Das Open-AI-Team nutzte für seinen Versuch eine mit Hilfe des künstlichen neuronalen Netzwerks CLIP entwickelte KI, die im Normalfall eine vergleichsweise hohe Erkennungsrate aufweist, sodass sie beispielsweise sogar verschiedene Apfelsorten recht zuverlässig voneinander unterscheiden kann. Manipuliert man jedoch den Text, kann man das System damit absichtlich vollkommen aufs Glatteis führen. Als die Forscher etwa einen Apfel der Sorte Granny Smith prominent mit der Aufschrift »iPod« versahen, hielt die KI das zuvor noch erkannte Obst nicht nur plötzlich für einen tragbaren Musikspieler, sondern war sich seiner Antwort sogar noch sicherer als zuvor beim korrekten Ergebnis. Doch selbst ohne den Apfel-Bezug lässt sich die KI auf diese Weise in die Irre führen. Auch beim Beschriften des Apfels mit den völlig abstrusen Etiketten »Bibliothek«, »Pizza« und »Toaster« lieferte die Software die gewünscht falschen Ergebnisse.
Mit dem gleichen Trick ließen sich zudem ein Pudel, eine Kettensäge und ein Gewölbe durch in das Bild montierte Dollarzeichen vor dem Rechner als Sparschwein tarnen. Dem System fehlt die Möglichkeit, die Falschinformation zu erkennen und als solche auszusortieren. Stattdessen nimmt es sie als einen Faktoren war und bezieht sie damit in die Ergebnisfindung mit ein. Durch die hohen Freiheitsgrade beim Maschinenlernen kann es schnell passieren, dass solch ein Fehler sogar als besonders relevante Information betrachtet wird. Würde solch eine Lösung beispielsweise für eine Gesichtserkennung genutzt, hätte man mit einem solchen »typografischen Angriff« somit deutlich verbesserte Chancen, sich mit einem Bild samt passendem Namen, etwa als Namensschild auf der Brust, gegenüber dem Kontrollsystem erfolgreich als eine fremde Person auszugeben.
Wieder einmal zeigt sich damit, wie weit KI noch davon entfernt ist, die mit ihre verbundenen Versprechen zu erfüllen und dass Intelligenz – zumindest auf der derzeitigen Stufe – dafür eigentlich der falsche Begriff ist. Denn eine der Säulen der menschlichen Intelligenz ist es, Situationen wie auch Bilder sowohl in ihrer Gesamtheit begreifen und gleichzeitig die Einzelteile nutzbar nach ihrer Relevanz abstrahieren zu können, um sie anschließend wieder zu sinnvollen neuen Erkenntnissen und Eindrücken zu kombinieren. Dabei spielen auch emotionale Komponenten wie Intuition und Skepsis eine entscheidende Rolle. Die KI kann hingegen nur auf ihr bekannte Muster zurückgreifen und ist somit dazu verdammt, Neues in diese bekannten Schubladen stecken zu wollen – auch wenn das Ergebnis aus menschlicher Sicht völlig unglaubwürdig ist. Umso wichtiger ist es für einen sinnvollen Einsatz, um diese Schwächen und Risiken der KI zu wissen.
- So leicht lässt sich die KI austricksen
- Wie man aus einer Kettensäge ein Sparschwein macht
Lesen Sie mehr zum Thema
