Amazon draait sollicitatierobot de nek om na discrimineren vrouwen
Amazon heeft een experiment met een sollicitatierobot stopgezet. Het systeem bleek namelijk niet zo van vrouwen te houden.
Delen per e-mail
Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt
De internetgigant begon in 2014 met het bouwen van een systeem dat cv's van kandidaten kon scannen, om zo de zoektocht naar talent te automatiseren. De nieuwe tool gebruikte kunstmatige intelligentie om kandidaten een score van één tot vijf toe te kennen. ,,Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt'', vertelt één van de Amazonmedewerkers die betrokken was bij het experiment aan Reuters. ,,We zouden die vijf dan aannemen.''
Een jaar na de lancering ervan bleek echter dat de robot onderscheid maakte tussen mannen en vrouwen bij de selectie van kandidaten. De tool had namelijk geleerd welke kandidaten deze moest selecteren door alle cv's die het bedrijf sinds 2004 had gekregen te analyseren. De meeste daarvan kwamen van mannen, waardoor de sollicitatierobot leerde dat mannen de voorkeur zouden moeten krijgen. cv's met daarin het woord 'vrouwen' en ook afgestudeerden aan scholen speciaal voor vrouwen werden daardoor benadeeld.
Geen garantie
Na die ontdekking paste Amazon de tool aan, maar het werd nooit de zo gewilde hulp in het sollicitatieproces. Hoewel recruiters de aanbevelingen van het systeem meenamen, waren die nooit de enige reden om iemand uit te nodigen voor een gesprek. De aanpassingen bleken bovendien geen garantie dat het systeem nooit meer zou discrimineren. Om die reden besloot het bedrijf om uiteindelijk de stekker eruit te trekken.
John Jersin, adjunct-directeur van LinkedIn Talent Solutions had niet anders verwacht. ,,Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen'', zo zei hij. ,,De technologie is er gewoon nog niet klaar voor.''
Discriminatie was overigens niet het enige probleem van de robot. Door problemen met de data werden ook regelmatig ongeschikte kandidaten aangeraden voor allerlei soorten banen. Die resultaten leken soms volledig willekeurig tot stand te zijn gekomen.
Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen
Verder in het nieuws
-
Politiekorpsen waarschuwen voor ‘onveilige’ FaceApp, maar enige nuance is vereist
Verschillende politiekorpsen in het land delen vandaag op sociale media een waarschuwing voor de immens populaire FaceApp. Het Russische programma zou onveilig zijn en niet vallen onder de Europese privacywetgeving. Maar enige nuance is vereist. -
PREMIUM
Koken & eten In dit restaurant eet je van je telefoon, zodat je er niet op kunt kijken
Restaurant 't Kleijn Geluck in het Brabantse Son was gisteren het toneel van een bijzonder culinair experiment: een diner geserveerd op je eigen telefoon. Verslaggever Lukas van der Storm van ED ervoer hoe dat voelt, eten zonder mobiel. -
Naw-gegevens uit RDW-database worden te koop aangeboden op internet
Corrupte medewerkers verkopen naw-gegevens uit het register van de Rijksdienst Wegverkeer op internet. RTL Nieuws ontdekte chatgroepen waarin kopers op aanvraag persoonsgegevens die bij kentekens horen kunnen verkrijgen. -
Bij dit game-toernooi kun je 30(!) miljoen dollar verdienen, en dat bedrag stijgt nog
Een gametoernooi winnen en in één klap multimiljonair worden. Het is de realiteit bij The International, een gametoernooi dat volledig draait om het spel Dota 2. De spelers strijden namelijk voor een prijzenpot van 30 miljoen dollar. En dat bedrag wordt waarschijnlijk nog een flink stuk hoger. -
Voortaan in één keer doorklikken naar AD Tech op de AD app
De app van het AD maakt het mogelijk om vanaf de hoofdpagina meteen door te klikken naar AD Tech. Klik op de hoofdpagina onderin op de menuknop (drie streepjes). Vervolgens staat AD Tech naast die knop afgebeeld. Klik hierop en je ziet meteen het volledige nieuwsaanbod, koopgidsen en recensies van onze techredactie.
-
Microsoft steekt een miljard in AI-onderzoek: ‘Kan de koers van de mensheid bepalen’
Microsoft steekt 1 miljard dollar in een groep die onderzoek doet naar kunstmatige intelligentie. OpenAI gaat de Azure-clouddiensten van Microsoft ontwikkelen. Daarnaast gaan Microsoft en OpenAI samen technologie ontwikkelen voor supercomputers. -
'Facebook hing nog veel hogere boete boven hoofd'
De boete die Facebook krijgt voor de privacyschandalen had nog veel hoger kunnen uitvallen. De Amerikaanse toezichthouder FTC overwoog een straf van tientallen miljarden dollars, meldt The Wall Street Journal. Uiteindelijk bedraagt de schikking 5 miljard, zo wordt waarschijnlijk deze week officieel bekendgemaakt. -
Dit zijn de beste én meest betaalbare 55 inch-tv’s
Wat kan je eisen van een televisietoestel met een schermdiagonaal van 140 centimeter en een prijs onder de 1.000 euro? Met die vraag in het achterhoofd gingen we op zoek naar de beste budget- en middenklasse-tv’s.
AD Tech Beste Koop
Meest gelezen
AD Webwinkel
Meest gedeeld
-
5G-mast op elke straathoek
-
Is 5G schadelijk voor de gezondheid?
-
Morgen zou MSN 20 zijn geworden: tijd om herinneringen op te halen
-
Politiekorpsen waarschuwen voor ‘onveilige’ FaceApp, maar enige nuance is vereist
-
Grap loopt uit de hand: 1,7 miljoen mensen willen aliens gaan zoeken op geheime basis Area 51
