Amazon draait sollicitatierobot de nek om na discrimineren vrouwen
Amazon heeft een experiment met een sollicitatierobot stopgezet. Het systeem bleek namelijk niet zo van vrouwen te houden.
Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt
De internetgigant begon in 2014 met het bouwen van een systeem dat cv's van kandidaten kon scannen, om zo de zoektocht naar talent te automatiseren. De nieuwe tool gebruikte kunstmatige intelligentie om kandidaten een score van één tot vijf toe te kennen. ,,Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt'', vertelt één van de Amazonmedewerkers die betrokken was bij het experiment aan Reuters. ,,We zouden die vijf dan aannemen.''
Een jaar na de lancering ervan bleek echter dat de robot onderscheid maakte tussen mannen en vrouwen bij de selectie van kandidaten. De tool had namelijk geleerd welke kandidaten deze moest selecteren door alle cv's die het bedrijf sinds 2004 had gekregen te analyseren. De meeste daarvan kwamen van mannen, waardoor de sollicitatierobot leerde dat mannen de voorkeur zouden moeten krijgen. cv's met daarin het woord 'vrouwen' en ook afgestudeerden aan scholen speciaal voor vrouwen werden daardoor benadeeld.
Geen garantie
Na die ontdekking paste Amazon de tool aan, maar het werd nooit de zo gewilde hulp in het sollicitatieproces. Hoewel recruiters de aanbevelingen van het systeem meenamen, waren die nooit de enige reden om iemand uit te nodigen voor een gesprek. De aanpassingen bleken bovendien geen garantie dat het systeem nooit meer zou discrimineren. Om die reden besloot het bedrijf om uiteindelijk de stekker eruit te trekken.
John Jersin, adjunct-directeur van LinkedIn Talent Solutions had niet anders verwacht. ,,Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen'', zo zei hij. ,,De technologie is er gewoon nog niet klaar voor.''
Discriminatie was overigens niet het enige probleem van de robot. Door problemen met de data werden ook regelmatig ongeschikte kandidaten aangeraden voor allerlei soorten banen. Die resultaten leken soms volledig willekeurig tot stand te zijn gekomen.
Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.Lees Meer
-
PREMIUM
We gebruiken steeds vaker kunstmatige intelligentie op school. Waarom?
Een computer die de gezichtsuitdrukking van jouw kind analyseert om te kijken of ze het naar haar zin heeft, daarna haar huiswerk controleert en haar leraar advies geeft over hoe hij beter les kan geven: het klinkt misschien als toekomstmuziek, maar het gebeurt nu al. Wat heb je aan kunstmatige intelligentie in het onderwijs, en is het een goed idee? -
Batterij leeg? Zo laad je een smartphone sneller op
Duurt het een eeuwigheid om jouw smartphone volledig op te laden? Met deze tips zorg je ervoor dat de batterij zo snel mogelijk weer vol zit. -
De beste consoles voor op de achterbank
Het is zomer en dat betekent voor veel gezinnen een lange reis met de auto richting de vakantiebestemming. Wil je die rit iets comfortabeler maken of zit jouw kroost niet te wachten op zes uur lang ‘ik zie wat jij niet ziet’ spelen? Zorg dan dat je een handheld of draagbare spelcomputer meeneemt. -
10
Waarom je niet te hard moet werken voor je op vakantie gaat
Gedragspsycholoog Chantal van der Leest bekijkt onze gedragingen op de werkvloer: wie of wat bepaalt onze dagelijkse beslissingen? Vandaag: voorpret. -
Energierekening
Ruud is van de variabele contracten: ‘Met de huidige energieprijzen pakt dat wat minder uit’
Hoeveel geld besteed jij aan energie in huis? Hoe probeer je de kosten omlaag te brengen? Deze vragen stellen we elke week aan een Nederlander. Vandaag: Ruud Koot (60) uit Amersfoort.
-
Dit doet een warme zomerdag met je smartphone-accu
Dagelijks beroepen we ons op de apparatuur om ons heen, ongeacht regen of zonneschijn. Maar heb je je wel eens afgevraagd wat weersomstandigheden precies voor gevolgen hebben voor bijvoorbeeld je smartphone? We vragen een batterij-expert om te achterhalen wat een bloedhete zomerdag met de accu in je broekzak doet. -
PREMIUMBinnenkijken
Giovanni (23) woont in miljoenenvilla en heeft Ferrari in z'n garage: 'Blijf beseffen dat dit bizar is’
23 jaar en nu al een miljoenenvilla en twee peperdure auto's op zijn naam: vlogger Giovanni Latooy (fans kennen hem als Gio) heeft het goed voor elkaar. Maar een leven als succesvolle YouTuber, is dat echt zo tof als het lijkt? ,,Je bent de hele dag bezig met die camera. Dat is best stressvol.’’ -
PREMIUM
De Russen kunnen Nederland zo platleggen, stellen experts: ‘Eén verkeerde klik en ze zijn binnen’
Onze digitale veiligheid staat meer dan ooit onder druk. Criminelen willen onze gegevens pikken en de Russen kunnen ons land platleggen. Inlichtingendiensten uit binnen- en buitenland spreken al jaren over Russische cyberaanvallen op andere landen. Wat is hiervan waar en wat zijn de gevolgen voor Nederland? ,,Ze kunnen onze sluizen openzetten.’’
Meest gelezen
AD Webwinkel
Meest gedeeld
-
De beste games voor een flinke work-out: deze spellen laten je zweten
-
PREMIUMmet video
Brandweer zoekt drenkelingen met onderwaterdrone: ‘We winnen in zoektijd en veiligheid’
-
Studenten leren over kunstmatige intelligentie in de praktijk: ‘A.I. rukt overal op’
-
Deze telefoons maken de mooiste foto's
-
Waarom je soms beter geen abonnement kunt afsluiten via je iPhone
