Lars, but not Least: Digitale Diskriminierung
Wie Amazons KI zur Sexistin wurde
Fortsetzung des Artikels von Teil 1
Wie Maschinen zu Sexisten werden
Bei genauerem Hinsehen zeigte sich schnell, dass dieses Verhalten weder durch eine entsprechend geringe Anzahl weiblicher Bewerberinnen, noch durch ihnen fehlende Qualifikationen zu erklären war. Vielmehr waren die falschen Bewertungen einem grundsätzlichen Problem vieler heutiger KI-Systeme geschuldet: sie bauen ihre Intelligenz auf dem Status Quo als Trainingsgrundlage auf. Im Fall Amazon bedeutete dies, dass die Datengrundlage der KI-Lösung vom aktuellen Abbild der Beschäftigungsstrukturen ausging. Da bei Amazon, wie fast überall im ITK-Bereich, deutlich mehr Männer als Frauen auf technischen Positionen arbeiten, leitete die KI daraus ab, dass Frauen für die Besetzung der ausgeschriebenen Stellen weniger geeignet seien. Deshalb bedachte sie weibliche Bewerberinnen direkt mit einer Abwertung.
Theoretisch sollte das Problem also durch einen direkten Ausschluss dieser grundsätzlichen Negativ-Bewertung von Frauen einfach zu lösen sein. Doch weit gefehlt, wie die Experten bei entsprechenden Versuchen schnell feststellen mussten. Denn der gleiche Fehler setzte sich durch das eigenständige Lernen der Software auch an anderen, nicht sofort eindeutig identifizierbaren Stellen, weiter fort.
So stellte die KI etwa fest, dass es einige Universitäten gibt, von denen besonders wenige Absolventen auf die bisherigen Job-Profile gepasst hatten und schloss daraus, dass dies an einer schlechteren Ausbildung liegen müsse. Also bekamen alle Absolventen dieser Hochschulen, egal ob männlich oder weiblich, ebenfalls eine schlechtere Bewertung bei der HR-Prognose.
- Wie Amazons KI zur Sexistin wurde
- Wie Maschinen zu Sexisten werden
- Vielfalt statt Einfalt
Lesen Sie mehr zum Thema
