'Nú nadenken over de grote gevolgen van zelfstandige computers'
Zelfrijdende auto's, apps die op foto's dieren en fietsen kunnen onderscheiden, maar ook de angst van banenverlies en te veel macht. Kunstmatige intelligentie is één van de belangrijkste gespreksonderwerpen in de techwereld op dit moment.
En er moet op korte termijn veel gebeuren, stelt Catelijne Muller, rapporteur kunstmatige intelligentie voor de Europese Commissie, in gesprek met de NOS op techconferentie Web Summit in Lissabon.
"Kunstmatige intelligentie brengt een hele hoop uitdagingen met zich mee en we moeten daar nu met elkaar over nadenken", zegt Muller. Ze geeft aan dat nog lang niet alles duidelijk is. "Er wordt vaak gesproken over hoe groot de impact van zelfstandige computers kan worden over een paar jaar, maar het is nu al een factor."
Volgens de rapporteur, die vanuit het Europese Economisch en Sociaal Comité de Europese Commissie adviseert, staat de maatschappij voor een hoop uitdagingen. "Google Foto's is een van de bekendere voorbeelden waar kunstmatige intelligentie inzit. Maar vergeet niet dat het systeem kort na lancering in 2015 twee zwarte mensen aanzag voor gorilla's."
Voor Muller is het wel een voorbeeld van hoe systemen, al dan niet onbewust, vooringenomen zijn. "In Amerika wordt er getest met computerrechters die op basis van kunstmatige intelligentie proberen te voorspellen of een veroordeelde misdadiger opnieuw de fout ingaat. Daarbij werd een donker 18-jarig meisje, zonder strafblad, aangezien als hoger risico dan een blanke man mét strafblad."
Misgaan
Ze vindt dan ook dat er meer diversiteit moet komen en meer mensen uit verschillende culturen hun bijdrages moeten leveren. "Ik geloof zonder meer dat die algoritmes met de beste intenties worden geprogrammeerd, maar daarbij kunnen dingen misgaan."
Kunstmatige intelligentie is iets waar al jaren aan wordt gewerkt, maar waar techbedrijven de laatste tijd veel meer op inzetten. Bij bedrijven als Google, Amazon maar ook Apple neemt het - op verschillende manieren - een steeds meer centrale rol in. Daar zit de kennis en data.
Volgens Muller is er daarbij sprake van een 'blackbox'. "We weten niet waarom die systemen bepaalde beslissingen nemen, dat moet wat mij betreft opener worden." Het gaat dan over de algoritmes die de bedrijven gebruiken. Iets wat vaak wordt beschouwd als bedrijfsgeheim.
En er zijn nog andere uitdagingen, vindt Muller. "Zelfrijdende auto's vind ik een voorbeeld van een goede toepassing. Maar de vraag die dan ook opkomt is wat er gebeurt met de truckers, de mensen die hierdoor mogelijk hun baan kunnen verliezen."
Hetzelfde geldt wat haar betreft voor de luchtvaart. "Daar wordt al lang op de automatische piloot gevlogen en is er veel meer transparantie. Dat komt uiteraard ook deels doordat de gevolgen enorm zijn als er iets misgaat."
De missie van Muller is om vooral nu met elkaar om de tafel te gaan zitten. "We moeten over gevolgen van kunstmatige intelligentie praten met alle betrokkenen; de bedrijven die dit ontwikkelen, de bedrijven die het gaan gebruiken en de werknemers die ermee te maken krijgen."