Onrust over Google's hulp aan drones van het Amerikaanse leger
Don't be evil was jarenlang de slogan van Google, maar medewerkers van het bedrijf vrezen nu dat aan dit gedachtengoed een einde kan komen. De internetgigant werkt samen met het Pentagon aan Project Maven, bedoeld om videobeelden die door drones worden gemaakt te analyseren.
Dat klinkt nog redelijk onschuldig, maar het achterliggende doel is dat helemaal niet. De data die dit oplevert worden vervolgens gebruikt om bijvoorbeeld te bepalen wie er moeten worden gedood tijdens missies.
Het leger heeft hoge verwachtingen van het systeem, waarvan het de bedoeling is dat het op een steeds grotere schaal zal worden gebruikt. "We bereiden ons voor op een toekomst waarin mens en machine als één team samenwerken", zei luitenant-generaal John Shanahan vorig jaar december tegen nieuwssite Defense One. Volgens hem zal deze techniek voor een revolutie zorgen.
4000 handtekeningen
De deelname van Google aan het project heeft geleid tot onrust binnen het bedrijf. Techsite Gizmodo meldde maandag dat twaalf mensen zijn opgestapt vanwege het project. Een interne petitie heeft al meer dan 4000 handtekeningen opgeleverd en daarnaast is er een brief (.pdf) naar topman Sundar Pichai gestuurd. Daarin staat onder meer het volgende:
We denken dat Google zich niet moet bezighouden met oorlog. Daarom vragen we dat de samenwerking rond Project Maven wordt stopgezet en dat Google een duidelijk beleidsplan opstelt en publiceert waarin staat dat noch Google, noch zijn partners ooit technologie voor oorlogsvoering zal bouwen.
Volgens Lambér Royakkers, van de vakgroep Ethische Technologie aan de TU Eindhoven, zijn de zorgen terecht. "Dit is toch wel beangstigend", zegt hij. "Experts verwachten dat kunstmatige intelligentie binnen tien jaar in staat is om zelf beslissingen te nemen. Dit is een grote stap in het proces om uiteindelijk autonome systemen te ontwikkelen."
Daarnaast zet Royakkers vraagtekens bij de mate waarin er nog menselijke controle is. "Een piloot houdt op dit moment toezicht. Maar wat gebeurt er als een systeem zegt dat het een doelwit heeft gevonden? Zegt die dan nee, doe maar niet, ik wil de beelden nog eens controleren? De discussie is leuk hoor, maar ondertussen gaan de ontwikkelingen gewoon door."
De onvrede is daarnaast niet nieuw. Vorige maand meldde The New York Times dat Google-medewerkers tijdens een bijeenkomst hun zorgen over de samenwerking hebben geuit. Diane Green, die bij Google verantwoordelijk is voor Project Maven, verdedigde daar de samenwerking. Een woordvoerder zei daarnaast tegen de krant dat de meeste handtekeningen waren verzameld voordat het bedrijf de gelegenheid had om zijn medewerkers tekst en uitleg te geven.
De internationale commissie voor controle op bewapende robots (ICRAC) heeft de top van Google een brief gestuurd. De organisatie vreest dat dit de start is van een proces wat uiteindelijk leidt tot automatische gezichtsherkenning en systemen die vervolgens zelfstandig de keuze maken of er wordt geschoten of niet. "Met dit project raakt Google betrokken bij de twijfelachtige praktijk van gericht doden", schrijft de commissie onder meer.
Drie jaar geleden werd een breed gedragen open brief gepubliceerd waarin onderzoekers op het gebied van kunstmatige intelligentie en robotisering oproepen om geen autonome systemen te ontwikkelen. De brief werd onder meer door Elon Musk en de onlangs overleden Stephen Hawking ondertekend. Discussie hierover is dus al een paar jaar gaande.
Hoe groot de zorgen ook zijn op dit vlak, ontwikkelingen omtrent kunstmatige intelligentie kunnen ook heel positieve effecten hebben. "Ik kan niet wachten totdat we gebruik kunnen maken van zelfrijdende auto's", zegt Royakkers. "Op sommige terreinen kan het voor mij dus niet snel genoeg gaan, maar we moeten ons ook bewust zijn van wat tech ook kan."
10 miljard dollar
Er is voor Google wel een belangrijke motivator om door te gaan met Project Maven: het maakt kans op een defensiecontract dat verspreid over een decennium een waarde heeft van 10 miljard dollar, schrijft Defense One. De strijd gaat daarbij voornamelijk tussen drie techgrootmachten: Amazon, Google en Microsoft. De nieuwssite merkt daarbij op dat Amazon en Microsoft hier zonder gêne over praten en dat Google zich veel meer op de vlakte houdt.
De zoekgigant is overigens niet de voornaamste kandidaat, dat is Amazon. Het bedrijf heeft als enige al een contract met de CIA. Tegelijkertijd zegt een hoge anonieme medewerker van het Pentagon tegen Defense One dat Google uitblinkt op het gebied van kunstmatige intelligentie. Succes rond Project Maven zou daarbij goed kunnen helpen.
