Volledig scherm
Gezichtsherkenningssoftware wordt dankzij kunstmatige intelligentie steeds beter. In China wordt de technologie breed uitgerold. © Getty Images/iStockphoto

Waakhond wil toezicht op
kunstmatige intelligentie

Agentschap Telecom onderzoekt of het toezicht kan houden op kunstmatige intelligentie. De waakhond wil actie ondernemen als de algoritmen in intelligente software tot onwenselijke, onethische of mogelijk discriminerende uitkomsten leiden.

Dat zegt de nieuwe directeur-hoofdinspecteur Angeline van Dijk van Agentschap Telecom in een interview met deze krant. ,,Hoe zitten de algoritmen van kunstmatige intelligentie in elkaar, hoe meet je de kwaliteit van de berekeningen? We willen kijken of we ons daar als toezichthouder proactief mee bezig moeten houden.”

Van Dijk wijst er op dat steeds meer bedrijven en organisaties kunstmatig intelligente software gebruiken of daarmee experimenteren. ,,Vandaar dat we een verkenning naar de mogelijkheden zijn gestart.” In Nederland zijn onder meer TomTom, Randstad, ABN Amro, Shell, Picnic en Unilever hiermee bezig. Ook de politie onderzoekt hoe artificiële intelligentie kan helpen bij de opsporing. Tegelijk groeit het aantal voorbeelden waarbij de onderliggende algoritmen in intelligente software tot onwenselijke uitkomsten leiden. 

Zelfrijdende auto's

Bij sollicitaties leidde dat al tot het uitsluiten van vrouwen of allochtone kandidaten. Zo bleek een sollicitatierobot van  Amazon niet van vrouwelijke kandidaten te houden. Gezichtsherkenningssoftware van Google herkende gezichten van zwarte mannen aanvankelijk als gorilla’s. En slimme sensoren en camera’s in zelfrijdende auto’s blijken mensen met lichtere huid beter te herkennen, constateerden Amerikaanse onderzoekers. Oftewel: donkere mensen lopen meer kans te worden aangereden.

Verder lezen na de foto

Volledig scherm
Directeur-hoofdinspecteur Angeline van Dijk laat onderzoeken of etherwaakhond Agentschap Telecom ook toezicht moet gaan houden op AI. © Daniella van Bergen

Inmiddels klinkt een wereldwijde roep om regels en toezicht rond artificiële intelligentie. Zo werkt de Europese Commissie aan regels die ervoor moeten zorgen dat bedrijven kunstmatige intelligentie op een ethisch verantwoorde wijze gebruiken. De privacy van burgers dient eveneens te worden gerespecteerd. Vorige maand pleitte Brussel nog voor een tijdelijke ban van drie tot vijf jaar op gezichtsherkenningssoftware in de publieke ruimte. Een week later werd dat overigens weer ingetrokken.

Deepfakes

Ook techgigant Google zelf pleit voor toezicht. Zo stelde Sundar Pichai, ceo van Google, vorige maand dat kunstmatige intelligentie ‘te belangrijk is om niet te reguleren’.  Pichai noemde in een opiniestuk in de Financial Times gevaarlijke toepassingen als het manipuleren van videobeelden (deepfakes) en het inzetten van gezichtsherkenning om de verkeerde redenen. Mensen moeten er daarnaast van op aan kunnen dat hun privacy geborgd is als zij medische data delen met allerlei slimme apparaten. 

Volledig scherm
Specialist Horizon Robotics toonde twee jaar terug op een event in Beijing al hoe het via kunstmatige intelligentie gezichten kan herkennen op straat. © REUTERS
Volledig scherm
Sundar Pichai, ceo van Google en moederbedrijf Alphabet pleit ervoor om kunstmatige intelligentie te reguleren. © EPA