Kunstmatige intelligentie: de technologie is volop in beweging en biedt allerlei mogelijkheden. Maar op het gebied van wapens en oorlogvoering zijn de zorgen groot. Een nieuwe wapenwedloop dreigt en een internationaal verdrag lijkt niet in zicht, zeggen deskundigen.
Ook oud-NAVO-chef Anders Fogh Rasmussen is bezorgd. "Als we dodelijke wapens, killer-robots, niet aan banden leggen, zullen ze de wereld onstabieler en onveiliger maken." Hij pleit voor een wereldwijd verdrag tegen het gebruik van volledig autonome, dus zelfstandig beslissende, wapens.
Maar Kenneth Payne denkt niet dat er snel zo'n verdrag komt. "Dat lijkt me moeilijk op te leggen." Payne is expert op het gebied van militaire toepassingen van artificial intelligence. "Het zal niet lang meer duren voordat de mens er geen rol meer in speelt. Dan gaat alles te snel voor menselijke tussenkomst."
Zelf een doelwit vinden
Stuart Russel, professor computer science aan de Universiteit van Berkeley, legt uit dat er al wapens bestaan die zelf een doelwit kunnen vinden. Hij vertelt over een raket die Israël in het bezit heeft. "Die krijgt een regio en criteria mee waaraan een doelwit moet voldoen en gaat vervolgens zelf op zoek."
Hij vervolgt: "Als een machine het dodelijke werk voor jou kan uitvoeren zonder menselijk toezicht dan kun je zoveel bloed vergieten als je wilt. Miljoenen wapens kunnen gelanceerd worden door drie man die de opdracht geven en al die wapens de wereld insturen. Het is dus een massavernietigingswapen."
Killerrobots worden niet moe. Je kunt dus eindeloos blijven doorvechten.
Payne, docent aan het King's College London, wijst ook op het aspect van escalatie. "Tot nu toe zijn het mensen die beslissen of de strijd wordt verhevigd. In de toekomst kan de machine daarin een rol spelen. Hoe beslist die om de strijd op te voeren of af te bouwen? Niemand weet nog hoe dat zal gaan."
De mens maakt geen schijn van kans
Daarbij moeten we volgens oud-NAVO-chef Rasmussen niet vergeten dat killer-robots niet moe worden. "Je kunt dus eindeloos blijven doorvechten. Bovendien kun je een zwerm killer-robots op je vijand afsturen zonder enig gevaar voor het verlies van mensenlevens aan jouw kant."
Payne legt uit dat de mens het op veel vlakken aflegt tegen een machine. "Stel dat een menselijke piloot het moet opnemen tegen een computerpiloot. De computer kan elke snelheid aan, een mens valt flauw boven een bepaalde grens. En hun reactiesnelheid is veel hoger dan die van een mens. De mens maakt dan geen schijn van kans."
Ook zal de besluitvorming met machines veel sneller gaan, zegt Russel. "Met autonome wapens is alles een kwestie van minuten, uren. Ze zijn veel sneller. Daardoor wordt het dus continu aanvallen." Ook Rasmussen is daar bang voor. "In de toekomst wordt een beslissing misschien in slechts seconden genomen."
Russel hoopt dat de internationale gemeenschap de autonome wapens verbiedt. "Want het gaat onvermijdelijk deze kant op, als we die wapens niet verbieden." Volgens hem staan we aan het begin van aan wapenwedloop. "Het is echt dringend geboden dit een halt toe te roepen voor het te laat is."
In onze vijfdelige serie A Bright New World vertellen experts wat hun visie is op onze toekomst als het gaat om kunstmatige intelligentie. Die visie is aan de hand van animaties tot leven gebracht. Bekijk hieronder alle afleveringen:
