Ongeluk met een zelfrijdende auto: wie is er verantwoordelijk?

Het project om auto’s autonoom te laten rijden is ooit begonnen in de hoop het verkeer veiliger te maken. Lange tijd leek het de goede kant op te gaan. Zo was Tesla al snel in staat auto’s zelfstandig binnen de lijnen te houden of een noodstop te laten maken. Dit ‘Autopilot’ systeem is bedoeld als assisterende functie voor de menselijke bestuurder. Uit experimenten van Google, Tesla en Uber bleek dat zelfrijdende auto’s steeds minder ingrepen van hun menselijke bestuurder nodig hadden om foutloos te rijden. Autonoom rijdende auto’s leken binnen handbereik.

De auto’s kunnen autonoom rijden dankzij allerlei sensoren en meetapparatuur waarmee ze door het verkeer navigeren, legt Noorman uit. Ze draaien op computersystemen die zich kunnen aanpassen aan situaties. Het systeem leert van eerdere ervaringen en past zijn rijstijl hierop aan. Onmisbaar, volgens Noorman, want het systeem moet in staat zijn om op onvoorspelbare situaties te reageren. Denk aan willekeurig afslaande mensen, overstekende kinderen of gaten in de weg.

De afgelopen jaren is echter gebleken dat zelfrijdende auto’s niet veilig genoeg zijn. Er zijn meerdere ongelukken gebeurd waarvan enkele zelfs met dodelijke afloop. Zo overleed een Tesla-bestuurder nadat zijn auto achterop een vrachtwagen klapte. Google heeft haar onderzoek vanwege tegenvallende resultaten even ‘on hold’ gezet en Uber stopte zelfs volledig met experimenteren nadat een van hun prototypen een overstekende vrouw doodreed. In Nederland is de Onderzoeksraad Voor Veiligheid (OVV) momenteel bezig met een onderzoek naar de veiligheid op basis van een aantal incidenten.

Behalve veiligheid, is ook de daaruit volgende verantwoordelijkheid een heet hangijzer als het gaat om zelfrijdende auto’s. Want stel dat jij straks rustig in de auto een krantje leest en jouw volledig autonome auto maakt een ongeluk. Wie is dan verantwoordelijk? Een bestuurder is er niet meer om de schuld te geven terwijl het zelflerende systeem het onmogelijk maakt om te achterhalen waarom bepaalde beslissingen genomen zijn. Oftewel, de schuld kan niet herleid worden tot één programmeur of monteur.

De auto de schuld geven kan ook niet: deze heeft immers geen eigen wil. Noorman vindt dat autonoom rijdende auto’s dan ook onder de verantwoordelijkheid van mensen moeten vallen. De vraag is alleen: wie precies? Volgens haar is het vaak een opeenstapeling van kleine foutjes gemaakt door meerdere mensen. Dus kunnen ook meerdere mensen schuld hebben. ,,Daarom is het van belang per type fout aan te geven wie verantwoordelijk is, dat kunnen dus ook meerdere mensen zijn. Zo’n systeem zijn we al gewend bij vliegtuigen”, zegt Noorman: ,,Bij vliegtuigrampen wordt de piloot ook niet direct als enige schuldige aangewezen. Daar wordt de schuld juist gedeeld door alle betrokkenen.”

Kortom, als de technologie van de zelfrijdende auto er ooit komt, is het duidelijk dat we eerst een antwoord moeten hebben op de vraag wie wanneer waar verantwoordelijk voor is. Pas dan kunnen we met een gerust hart de krant lezen achter het stuur.

_{*Dit is een wekelijkse bijdrage van de Universiteit van Nederland.}

_{De Universiteit van Nederland heeft ook een podcast. Vind afleveringen terug op Spotify (http://bit.do/UvNL-Spotify) en iTunes (http://bit.do/UvNL-iTunes).}

Bekijk hieronder meer college’s van Universiteit van Nederland