Amazon trekt stekker uit sollicitatierobot wegens discriminatie van vrouwen

AFP
Webwinkelgigant Amazon heeft een experiment met een sollicitatierobot stopgezet. Het systeem, dat op basis van kunstmatige intelligentie moest helpen bij de zoektocht naar nieuwe medewerkers, discrimineert vrouwen tijdens de sollicitatieprocedure. Dat vertellen vijf anonieme bronnen, werknemers bij Amazon, aan persagentschap Reuters. 

Het technische team ontwikkelde in 2014 een computerprogramma om de cv’s van werkzoekenden te screenen. “Het programma werd beschouwd als een heilige graal”, zegt een medewerker. "Leidinggevenden wilden letterlijk dat het een robot werd dat honderd sollicitaties analyseerde en er de beste vijf uithaalde, waarna deze mensen werden aangenomen." Volgens Amazon zou het screenen van potentiële werknemers op die manier sneller verlopen. 

Een jaar na de lancering van de tool bleek echter dat de robot onderscheid maakte tussen mannen en vrouwen bij de selectie van kandidaten. De sollicitatierobot bekeek welke kandidaten in het verleden werden aangenomen bij de online retailer, vond daarin patronen en paste die vervolgens toe op toekomstige kandidaten. De voorbije tien jaar mochten hoofdzakelijk mannen aan de slag bij de webwinkelgigant. "In feite leerde de sollicitatierobot van Amazon zelf dat mannelijke kandidaten de voorkeur hadden en zette die lijn voort”, klinkt het.

Daarnaast vertellen de Amazonmedewerkers aan persagentschap Reuters dat elke kandidaat werd beoordeeld met een score van één tot en met vijf. Het systeem gaf negatieve scores aan cv's waarin het woord "vrouw" te lezen stond, zoals in "leider van het schaakteam voor vrouwen". Ook zou het sollicitantes die afkomstig waren van twee universiteiten voor alleen vrouwen een lagere score hebben gegeven. 

Amazon probeerde het algoritme aan te passen, maar dat bleek nog altijd niet genderneutraal te werken. Om die reden besliste het bedrijf om uiteindelijk de stekker eruit te trekken. Bij die beslissing speelde ook mee dat het systeem in andere opzichten niet werkte, zo droeg het niet-gekwalificeerde personen aan voor diverse functies. 




Reacties

Alle reacties worden voor publicatie gelezen -en goed- of afgekeurd- door het moderatie-team van HLN. Elke reactie moet voldoen aan deze gedragsregels.
Je naam en voornaam verschijnen bij je reactie.