Volledig scherm
© Censuur

VN-conferentie wil gewetenloze moordmachines aanpakken

killer robotsIn Genève is deze week - voor het eerst - een formele VN-bijeenkomst gewijd aan zogenaamde 'killerrobots'. Niemand zit te wachten op echte Terminators. 

De technologie bestaat al. We programmeren een zwerm minidrones die op jacht gaat. Iemand heeft van tevoren ingetikt: een gewapende man, boven de 40 die rondsluipt in de bossen op de Veluwe. De minidrones hebben hem snel gevonden en eentje laat drie gram explosief tegen zijn voorhoofd ontploffen. Vijand geëlimineerd.

Volledig scherm
Miriam Struyk, programmaleider Killer Robots bij vredesorganisatie PAX

Maar oh oh, wacht even. Bij nacontrole blijkt de man op de grond niet de gezochte terrorist, maar een nietsvermoedende boer die toevallig in hetzelfde gebied op fazantenjacht was gegaan. Zijn geweer tekende zijn eigen doodvonnis.

,,Dit kan inderdaad gebeuren'', zegt Miriam Struyk. Ze is programmaleider Killer Robots bij de Nederlandse vredesorganisatie PAX. Heel de week was ze in Genève, waar voor het eerst een formele VN-bijeenkomst werd gewijd aan de wapensystemen van de toekomst. Dat zijn Dodelijke Autonome Wapen Systemen (in het Engels afgekort LAWS) ofwel killerrobots. Het zijn wapens die zelfstandig zoeken naar doelen, onderweg informatie verzamelen en analyseren en dan zelf besluiten aan te vallen of niet, zonder dat een mens nog kan ingrijpen.

Niet te redden

Degene die op zijn computer 'enter' had ingedrukt voor de missie op de Veluwe, heeft wel wat uit te leggen. Was die arme boer echt niet meer te redden? Waarschijnlijk niet, als het aan de machine ligt. ,,Dit illustreert een van de problemen'', zegt Struyk. ,,Want hoe kun je precies weten wat er aan de hand is?''

Oorlogen hebben meestal plaats in veel chaotischer situaties dan in een kalm Veluws bos. Wat als iemand zich overgeeft? Wat als er toevallig andere mensen in de buurt van het doelwit zijn? De inzet van killerrobots is veel gecompliceerder dan door de industrie vaak wordt voorgesteld, aldus Struyk. ,,Zorg ervoor dat als je systeem een doelwit heeft geselecteerd en aanvalt, je controle houdt. Dat je zo’n opdracht bijvoorbeeld nog kunt stoppen en het wapensysteem terug kunt halen. Doe je dat niet, dan sla je een heel gevaarlijke weg in. Nederland stelt nu dat als je de kenmerken vooraf maar goed programmeert, het vanzelf goed komt. Dat vinden we redelijk naïef.''

Niet gerust

22 landen in Genève zijn er ook niet gerust op. Ze hebben zich uitgesproken voor een verbod op het inzetten van killerrobots. Dat zijn niet de hightechlanden die de wapensystemen ontwikkelen, maar landen in Afrika, het Midden-Oosten en Zuid-Amerika die vrezen voor wat straks hun kant op kan komen.

Hun argumenten zouden ons allemaal moeten beangstigen, denkt Struyk. Want dergelijke wapens kunnen bijvoorbeeld makkelijk clandestien worden ingezet. En de drempel om geweld te gebruiken zou verder omlaag kunnen gaan omdat er minder soldaten zullen sneuvelen tijdens een missie. Er zijn ook zorgen over het eindeloze geloof in technologische oplossingen, vooral in het westen. Wat als de killerrobots in handen van terroristen vallen? Struyk: ,,Uiteindelijk blijken die systemen vaak minder perfect dan gedacht. Dergelijke wapens gaan diplomatieke oplossingen niet bevorderen.''

Terminator

Er bestaan al tientallen wapensystemen die een bepaalde mate van autonomie hebben. De vraag is hoe lang we nog moeten wachten voordat we systemen zien die, eenmaal geactiveerd, zelfstandig doelwitten selecteren en aanvallen. Het meest aangehaalde schrikbeeld bij de discussie over killerrobots is de film Terminator. Struyk: ,,De Terminator wordt hier op de conferentie heel vaak genoemd. En ook vaak misbruikt, want veel landen zeggen dan dat het zover nooit zal komen en dat ze dát niet willen. Dit is ook het standpunt van Nederland. Autonome wapens zijn oké, maar volledig autonome wapens zoals in Terminator moeten we niet willen. Wij zien Terminator als het uiterste einde van het spectrum. Zover zijn we gelukkig nog lang niet. Maar de ontwikkelingen zijn er wel degelijk. Waar trek je dan de grens?”

Een killerrobot hoeft er niet uit te zien als een robot met menselijke eigenschappen. Er zijn al tal van automaten die ter land, ter zee of in de lucht kunnen toeslaan. Bijvoorbeeld een door Israël ontworpen ‘fire and forget’-drone die zelf aan de slag gaat als hij eenmaal is afgevuurd. Het ding vernietigt vijandige radarsystemen. Er zijn onbevestigde berichten dat er eentje zou zijn ingezet door Azerbeidzjan in het conflict met Armenië, waarbij per ongeluk een bus onder vuur werd genomen.

Hoopgevend

De gesprekken in Genève waren hoopgevend, zeker nu ook een groot land als Brazilië deze autonome moordmachines wil laten verbieden. Maar het opstellen van internationale regels verloopt heel traag. Struyk: ,,Het is heel moeilijk, want het betekent dat staten transparanter moeten zijn over hun systemen en informatie moeten delen. Maar het kan, als er genoeg politieke wil is. En het moet snel. Als de technologie nog verder gaat en militaire applicaties worden gebruikt, krijg je de geest niet terug in de fles.''

Volledig scherm
Een onbemande drone van het Amerikaanse leger. © REUTERS