Digitale CEO's willen af van killer robots, voordat het te laat is

Hollandse Hoogte

Meer dan honderd ondernemers op het gebied van robotica en kunstmatige intelligentie willen af van zogenoemde killer robots. In een open brief aan de Verenigde Naties schrijven ze dat de ontwikkeling en het gebruik van zulke autonome wapensystemen moeten worden gestopt, omdat het anders moeilijk wordt om later "de doos van Pandora weer te sluiten".

De brief is ondertekend door 116 robotica-pioniers en ondernemers. Onder hen zijn Tesla- en SpaceX-voorman Elon Musk en Mustafa Suleyman van Googles DeepMind. Er staan ook Nederlandse namen op de lijst: de oprichters van Interactive Robotics uit Delft, Maja Rudinac van Robot Care Systems uit Den Haag en de directeur van de Nederlandse tak van Blue Ocean Robotics.

Autonome wapens of killer robots zijn wapensystemen die zonder sturing of beslissing van mensen tot actie overgaan. Zo'n systeem (SGR-A1) is al functioneel op de grens van Noord- en Zuid-Korea. De mitrailleur scant zijn omgeving en kan zelf vuren op verdachte personen.

Ook bepaalde drones kunnen al zelfstandig hun doelen kiezen en schieten, al is dat nog niet toegestaan.

Demonstratievideo van de SGR-A1 van Samsung

De opstellers van de brief zeggen dat ze geen wapenwedloop willen in systemen gebaseerd op kunstmatige intelligentie. Met zulke wapens "kunnen gewapende conflicten worden uitgevochten op een schaal die we nu nog niet kennen", schrijven ze. Ook is er het gevaar dat ze door de verkeerde mensen worden ingezet of dat ze worden gehackt "en zich op een ongewenste manier gedragen" - een schrikbeeld dat in films als Robocop of Terminator al eerder tot leven werd gewekt.

Volgens de briefschrijvers moeten de Verenigde Naties eindelijk in actie komen. "We hebben niet lang. Als de doos van Pandora eenmaal is geopend, is het moeilijk om hem weer te sluiten."

Eerdere oproep

Een groep deskundigen van de VN had morgen op een conferentie over de toekomst van intelligente wapensystemen moeten spreken, maar die bijeenkomst gaat om financiƫle redenen niet door. De kwestie moet nu in november aan bod komen.

Wetenschappers hebben vaker opgeroepen tot een verbod op killer robots. Twee jaar geleden werd zo'n oproep nog ondertekend door duizenden wetenschappers, onder wie Stephen Hawking. Ook Elon Musk was er toen al bij. De VN richtte daarna wel een panel op van deskundigen op het gebied van autonome wapens, maar de briefschrijvers gaat het allemaal niet snel genoeg.