'Mens kan controle over killer robots binnen paar jaar kwijt zijn'

• Tomas Riemens

  redacteur Online

Heb je het filmpje hierboven bekeken? Het is schokkend en lijkt regelrecht uit een sciencefiction-film te komen. Maar een dergelijk scenario zou in de nabije toekomst werkelijkheid kunnen worden, zeggen activisten en deskundigen. Zij lieten de video zien aan het begin van een VN-conferentie in de Zwitserse stad Genève over killer robots.

Dat is de verzamelnaam voor wapensystemen die op eigen houtje kunnen vuren en doden. Het lijkt misschien vergezocht, maar de mens zou binnen enkele jaren het laatste stukje controle over deze technologieën kunnen verliezen, zegt Frank Slijper van vredesbeweging Pax in het NOS Radio 1 Journaal. "En dan is de geest uit de fles."

'Doos van Pandora'

Slijper is op dit moment bij de vijfdaagse bijeenkomst in Genève. Het is voor het eerst dat de Verenigde Naties de kwestie bespreken sinds ruim honderd robotica-pioniers - onder wie Tesla-voorman Elon Musk en Mustafa Suleyman van Google - in augustus een open brief schreven over het gevaar van autonome wapensystemen.

De ondernemers waarschuwden dat het gebruik en de ontwikkeling van luchtafweergeschut, mitrailleurs en drones moet stoppen, omdat het anders moeilijk wordt om later "de doos van Pandora weer te sluiten". Door wapens met kunstmatige intelligentie kunnen gewapende conflicten sneller escaleren dan mensen kunnen bijbenen, schreven zij.

De briefschrijvers vinden dat de VN in actie moet komen. "Een verbod op autonome wapensystemen is misschien lastig, maar regulatie is hard nodig", zegt Joachim de Greeff, mede-oprichter van het bedrijf Interactive Robots en een van de ondertekenaars van de brief.

Op veel plekken wordt al gebruikgemaakt van autonome wapensystemen. Zo beschikken oorlogsschepen van de Nederlandse marine over het anti-raketsysteem Goalkeeper, dat zelfstandig raketten detecteert en tot actie kan overgaan. "Bij de term killer robots wordt vaak gedacht aan wapens uit films als The Terminator, maar dat is een misverstand." Ook bij systemen die zelfstandig vuren als ze bepaalde signalen binnenkrijgen, moet goed worden nagedacht wanneer ze worden ingezet, vindt De Greeff.

Volgens de robotica-ondernemers moeten autonome wapensystemen op dezelfde manier worden benaderd als chemische of biologische wapens. Pax pleit net als andere mensenrechtenorganisaties zelfs voor een compleet verbod op killer robots. Het voorstel wordt op dit moment door bijna twintig landen gesteund.

Veiligheidsadviseur Peter Wijninga van het Haags Centrum voor Strategische studies ziet niets in zo'n verbod. "De technologie die deze autonome wapensystemen aanstuurt, wordt ook voor vreedzame doeleinden gebruikt. De software is er nu eenmaal. Het is zaak om goede internationale afspraken te maken, zodat het afvuren van wapens een menselijk besluit blijft."

Actie ondernemen

Maar van een verdrag over autonome wapensystemen is nog lang geen sprake, zegt de Indiase VN-ambassadeur die de gesprekken leidt. De betrokken partijen bespreken eerst om welke wapens het eigenlijk gaat. Daarmee wordt een belangrijke eerste stap gezet, vindt De Greeff. "Beter laat dan nooit. Het is goed dat het onderwerp steeds meer op de kaart wordt gezet."

Vredesbeweging Pax wil dat er op korte termijn actie wordt ondernomen. Frank Slijper zegt dat Den Haag stelling moet nemen tegen het gebruik en de ontwikkeling van wapens met kunstmatige intelligentie. "De regering denkt: we kijken over vijf jaar wel weer. Ik hoop dat Nederland het filmpje met dit toekomstscenario ook heeft gezien en inziet dat dit een urgent probleem is."

Niet te terughoudend

Het ministerie van Defensie is het er niet mee eens dat Nederland te terughoudend is. Het ministerie benadrukt dat Nederland nationaal en internationaal onderzoek naar dit onderwerp sponsort en de resultaten ter beschikking stelt aan de openbare discussie.

Voor een oproep voor een 'preventief moratorium' vindt het kabinet het te vroeg. Defensie benadrukt dat andere Europese landen daar ook zo over denken en dat bovendien de autonome wapens nog niet bestaan.

Het ministerie zegt verder dat de techniek die ter discussie staat, kunstmatige intelligentie, vooral in de civiele sector wordt ontwikkeld. "Denk aan toepassingen in mobieltjes, maar ook gezondheidszorg, zelfrijdende auto's en de financiële wereld. Die mogen niet worden gehinderd door een verbod."