| 21:02 Uhr

Der Konzern zog die Notbremse
Selbstlernende Software von Amazon diskriminierte Frauen

Seattle. Der Online-Händler Amazon hat ein selbstlernendes Computerprogramm, das eingehende Bewerbungen sortieren sollte, abgeschaltet. Die Software habe Männer durchweg besser bewertet als Frauen, berichtet das IT-Fachmagazin Golem. Von Carolin Woirgardt

Um das Programm zu trainieren, habe man es anfangs mit Bewerbungen von Mitarbeitern gefüttert. Diese hätten vor allem von Männern gestammt, obwohl der Frauenanteil bei Amazon 40 Prozent betrage. Dadurch habe die Software Bewerbungen von Männern positiver bewertet. Laut Golem war zu diesem Zeitpunkt bereits das Wort „Frau“ für das Programm negativ behaftet. Daraufhin habe Amazon reagiert, „Frau“ bekam eine neutrale Wertung. Mittlerweile werde die Software nicht mehr genutzt, so der Konzern.


Eine ähnlich problematische Unterscheidung ist laut Golem bereits bei vergleichbaren Programmen aufgetreten. Spezielle Gesichtserkennungssoftware von Microsoft und IBM habe beispielsweise Gesichter von weißen Männern zu 99 Prozent richtig erkannt, so Golem. Dagegen seien dunkelhäutige Frauen nur in drei von vier Fällen von den Programmen korrekt erkannt worden.