NOSop3

Mogen killer robots beslissen over leven en dood?

Wikimedia / Stephen Bowler
Geschreven door
Roel van Niekerk
Redacteur NOS op 3

Een robotsoldaat die zelf beslist of hij een mogelijke terrorist doodschiet, oftewel: een 'killer robot'. Klinkt als sci-fi, maar deze week vergaderen experts bij de VN over de vraag of autonome wapensystemen moeten worden verboden.

Voorstanders zeggen dat het inzetten van autonome robots levens kan redden, tegenstanders vinden ze veel te gevaarlijk. Echte 'killer robots' bestaan nog niet, maar veel moderne wapens beslissen voor een deel al zelf of ze wel of niet vuren. En er zijn al drones natuurlijk, waarbij een militair soms op duizenden kilometers afstand besluit om te schieten. 

Beslissen over leven en dood is een menselijke aangelegenheid. Je wil geen beslissing op basis van een algoritme; het moet een bewuste keuze zijn.

Lambert Royakkers, docent Ethiek van de Techniek aan de TU van Eindhoven

Maar bij drones zit er altijd een mens achter de knoppen die beslist over leven en dood. Een echte killer robot zou bijvoorbeeld met sensoren zoeken naar terroristen, zegt Lambert Royakkers, docent Ethiek van de Techniek aan de TU van Eindhoven. "Die heeft dan een opdracht via een algoritme: als iemand een wapen heeft, schiet die dan neer. Zonder dat een mens daar toestemming voor heeft gegeven." 

Veel landen - en dan vooral de VS - willen zulke robots. Maar dat moeten we niet willen, zegt Royakkers. "Beslissen over leven en dood is een menselijke aangelegenheid. Je wil geen beslissing op basis van een algoritme; het moet een bewuste keuze zijn."  

Op het moment zijn killer robots (de VN noemt het 'Lethal Autonomous Weapon Systems', of LAWS) nog niet verboden. "Maar dat soort systemen zullen ontwikkeld blijven worden als er geen restricties komen", zegt robotica-professor aan het Georgia Institute of Technology Ronald Arkin tegen NOS op 3. "De vraag vanuit het leger is groot: LAWS zorgen voor bescherming en het tempo op het slagveld wordt steeds hoger." 

Arkin is niet tegen killer robots. Maar hij wil wel een voorlopig verbod. "Als je deze wapens goed gebruikt, kunnen ze levens redden. Maar eerst moeten we een goede definitie van 'autonoom' bedenken. En hoe ga je een killer robot controleren? Tot die dingen duidelijk zijn, moeten er regels komen. Maar geen verbod, want in bijvoorbeeld het doorzoeken van gebouwen waar terroristen zich schuilhouden kunnen robots veel beter zijn dan mensen." 

Campaign to Stop Killer Robots
@BanKillerRobots
"Wait & see" is a dangerous approach when it comes to lethal autonomous weapons systems b/c disrupts norms & standards - @PeterAsaro
4 jaar geleden

Dat kan wel zo zijn, maar als het aan de tegenstanders ligt, komt er een absoluut verbod. Noel Sharkey is professor Kunstmatige Intelligentie en Robotica aan de Universiteit van Sheffield. Hij is op de conventie en steunt Stop Killer Robots, een organisatie die een absoluut verbod wil.

"Los van de morele vraag of je moorden moet overlaten aan een machine, zijn er ook gevaren voor burgers", zegt Sharkey. "Killer robots kunnen zich nog lang niet houden aan het internationale humanitaire recht. Daarnaast zien ze op het moment nog niet goed het verschil tussen een strijder en een burger." 

Sharkey wijst ook nog op de onvoorspelbaarheid van killer robots. "Je weet niet hoe ze met elkaar vechten en wat er dan gebeurt. Op die extreem hoge snelheden kunnen zulke systemen per ongeluk grote gewapende conflicten creëren."

Nederland is ook vertegenwoordigd op de conventie. In een brief aan de Tweede Kamer uit 2013 meldt het ministerie van Defensie dat het Nederlandse leger niet werkt aan dit soort systemen en daar ook geen plannen voor heeft. In de brief onderstreept de regering dat alle wapensystemen én de inzet in een gewapend conflict moeten voldoen aan alle eisen die het internationaal recht stelt.

Internationaal hebben de meeste landen nog geen specifiek beleid op het gebied van killer robots. Groot-Brittannië is tegen een verbod, net als Amerika, Japen en Zuid-Korea. Human Rights Watch bracht recent nog een rapport uit met bezwaren tegen geautomatiseerde oorlogsvoering.