Amazon byggde sexistisk AI

Internetjätten Amazon byggde och lanserade 2014 en AI vars uppgift var att sortera och betygsätta jobbansökningar till som kom in till företaget, men inom bara ett år hade den utvecklat en sexistisk inställning, det rapporterar Reuters.

Tanken var att att datorn skulle sortera fram ansökningarna med högst rating åt HR-avdelningen. Men redan året efter hade mjukvaran börjat premiera manliga CVn, uppger källor till Reuters.

Problemet var att mjukvaran utgick från inkomna ansökningar från tio år tillbaka i tiden, och då främst från manliga jobbaspiranter, så programmet lärde sig att sålla bort ansökningar som innehöll ordet "women". Därmed föll en högre grad kvinnliga ansökningar bort.

Mjukvaran användes under en period som stöd till rekryterarna på Amazon men är idag nedstängd. Däremot tror 55 procent av tillfrågade HR-chefer i USA att AI kommer spela en stor roll för rekrytering inom fem år, enligt en enkät från Careerbuilder

Amazon vill inte kommentera uppgifterna men hävdar att könsfördelningen idag är 60 procent män och 40 procent kvinnor.

Felix Lidéri