Amazon draait sollicitatierobot de nek om na discrimineren vrouwen
Amazon heeft een experiment met een sollicitatierobot stopgezet. Het systeem bleek namelijk niet zo van vrouwen te houden.
Delen per e-mail
Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt
De internetgigant begon in 2014 met het bouwen van een systeem dat cv's van kandidaten kon scannen, om zo de zoektocht naar talent te automatiseren. De nieuwe tool gebruikte kunstmatige intelligentie om kandidaten een score van één tot vijf toe te kennen. ,,Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt'', vertelt één van de Amazonmedewerkers die betrokken was bij het experiment aan Reuters. ,,We zouden die vijf dan aannemen.''
Een jaar na de lancering ervan bleek echter dat de robot onderscheid maakte tussen mannen en vrouwen bij de selectie van kandidaten. De tool had namelijk geleerd welke kandidaten deze moest selecteren door alle cv's die het bedrijf sinds 2004 had gekregen te analyseren. De meeste daarvan kwamen van mannen, waardoor de sollicitatierobot leerde dat mannen de voorkeur zouden moeten krijgen. cv's met daarin het woord 'vrouwen' en ook afgestudeerden aan scholen speciaal voor vrouwen werden daardoor benadeeld.
Geen garantie
Na die ontdekking paste Amazon de tool aan, maar het werd nooit de zo gewilde hulp in het sollicitatieproces. Hoewel recruiters de aanbevelingen van het systeem meenamen, waren die nooit de enige reden om iemand uit te nodigen voor een gesprek. De aanpassingen bleken bovendien geen garantie dat het systeem nooit meer zou discrimineren. Om die reden besloot het bedrijf om uiteindelijk de stekker eruit te trekken.
John Jersin, adjunct-directeur van LinkedIn Talent Solutions had niet anders verwacht. ,,Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen'', zo zei hij. ,,De technologie is er gewoon nog niet klaar voor.''
Discriminatie was overigens niet het enige probleem van de robot. Door problemen met de data werden ook regelmatig ongeschikte kandidaten aangeraden voor allerlei soorten banen. Die resultaten leken soms volledig willekeurig tot stand te zijn gekomen.
Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen
Verder in het nieuws
-
Beste Koop Met deze betaalbare stofzuigers wordt de lenteschoonmaak een eitje
Februari is de ideale maand om al stilletjes aan de lenteschoonmaak te beginnen. En dat begint met een flinke stofzuigbeurt. We zochten drie goede apparaten in de drie belangrijkste categorieën. -
Deze nieuwe laptop is ideaal op reis door compact design en goede prestaties
De Zenbook van Asus werd in 2011 geïntroduceerd en werd meteen al een kopie van de MacBook Air genoemd. Inmiddels heeft de laptop-lijn van Asus een eigen identiteit gevonden als een krachtige dunne en lichte computer. Hardware.Info keek naar de nieuwe Zenbook 14. Dit is wat opvalt. -
Zeldzame Super Mario Bros. levert meer dan 100.000 dollar op bij veiling
Nog een ongebruikte versie van de eerste Super Mario Bros. voor de NES op zolder liggen? Misschien is het spelletje wel een ton waard. Bij een veiling van het Amerikaanse online veilinghuis Heritage Auction leverde het spelletje 100.150 dollar op. Daarmee is het een van de duurste game ooit. -
Cybercrimineel deinst zelfs niet terug voor politieagent
De brutaliteit van internetcriminelen kent geen grenzen: ze proberen zelfs politieagenten geld en gegevens te ontfutselen. Zo kreeg politiewoordvoerder Frans Zuiderhoek gisteravond een phishingbericht op zijn diensttelefoon. -
‘Facebook riskeert hoogste boete ooit in VS vanwege privacyproblemen’
Facebook onderhandelt met de Amerikaanse Federal Trade Commission over de hoogte van een boete en andere sancties wegens de privacyproblemen die het sociale netwerk heeft veroorzaakt. De boete zou kunnen oplopen tot miljarden dollars.
-
Apple wil content van andere streamingdiensten toelaten op eigen videoplatform
Apple wil zijn dienst voor streamingvideo in april of uiterlijk mei aanbieden en het moet ook een platform voor andere diensten worden. Dat stelt nieuwssite CNBC aan de hand van bronnen. Netflix zou niet meedoen en HBO zou nog in gesprek zijn met Apple. -
Review Met deze goedkope smartphone steel je de show, maar wel voor een prijs
Huawei is inmiddels niet meer uit de smartphonemarkt weg te denken en zodoende heeft de Chinese telecomgigant op praktisch elk prijspunt wel een toestel. Voor de sweet spot tussen budget en middenklasse is er de nagelnieuwe Huawei P Smart 2019. Hardware.Info bekeek het toestel en had dit erover te zeggen. -
Akkoord over auteursrecht EU: grote platforms moeten betalen voor nieuws
Grote internetplatforms als YouTube, Facebook en Instagram moeten vergoedingen gaan afdragen aan rechthebbenden over auteursrechtelijk beschermde filmpjes, foto's of muziek die gebruikers uploaden. Sites als Google News die nieuwsberichten online zetten, moeten daar ook voor gaan betalen.
