Een werknemer bij Amazon in Leipzig, Duitsland. © EPA

Amazon draait sollicitatierobot de nek om na discrimineren vrouwen

Amazon heeft een experiment met een sollicitatierobot stopgezet. Het systeem bleek namelijk niet zo van vrouwen te houden.

Karolien Koolhof 10-10-18, 11:25

Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt

De internetgigant begon in 2014 met het bouwen van een systeem dat cv's van kandidaten kon scannen, om zo de zoektocht naar talent te automatiseren. De nieuwe tool gebruikte kunstmatige intelligentie om kandidaten een score van één tot vijf toe te kennen. ,,Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt'', vertelt één van de Amazonmedewerkers die betrokken was bij het experiment aan Reuters. ,,We zouden die vijf dan aannemen.''

Een jaar na de lancering ervan bleek echter dat de robot onderscheid maakte tussen mannen en vrouwen bij de selectie van kandidaten. De tool had namelijk geleerd welke kandidaten deze moest selecteren door alle cv's die het bedrijf sinds 2004 had gekregen te analyseren. De meeste daarvan kwamen van mannen, waardoor de sollicitatierobot leerde dat mannen de voorkeur zouden moeten krijgen. cv's met daarin het woord 'vrouwen' en ook afgestudeerden aan scholen speciaal voor vrouwen werden daardoor benadeeld.

De sollicitatierobot bleek niet helemaal genderneutraal. © REUTERS

Geen garantie

Na die ontdekking paste Amazon de tool aan, maar het werd nooit de zo gewilde hulp in het sollicitatieproces. Hoewel recruiters de aanbevelingen van het systeem meenamen, waren die nooit de enige reden om iemand uit te nodigen voor een gesprek. De aanpassingen bleken bovendien geen garantie dat het systeem nooit meer zou discrimineren. Om die reden besloot het bedrijf om uiteindelijk de stekker eruit te trekken.

John Jersin, adjunct-directeur van LinkedIn Talent Solutions had niet anders verwacht. ,,Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen'', zo zei hij. ,,De technologie is er gewoon nog niet klaar voor.''

Discriminatie was overigens niet het enige probleem van de robot. Door problemen met de data werden ook regelmatig ongeschikte kandidaten aangeraden voor allerlei soorten banen. Die resultaten leken soms volledig willekeurig tot stand te zijn gekomen.