Kunstmatige intelligentie moet doen wat wij willen.
Een grote groep experts op het gebied van kunstmatige intelligentie waarschuwt in een open brief voor de gevaren van de technologie. Ontzettend handig zo'n zelfrijdende auto, zeggen ze, maar laten we goed onderzoeken hoe we die onder controle houden. Een terechte waarschuwing, of overdreven?
"Nou, het is niet zo dat een Hollywood-scenario om de hoek staat", zegt hoogleraar kunstmatige intelligentie aan de universiteit van Groningen Lambert Schomaker. "Maar de ontwikkelingen gaan wel heel snel. Met de huidige hoeveelheid data kunnen we veel meer dan sceptici tien jaar geleden dachten."
Denk bijvoorbeeld aan de zelfrijdende auto, of drones. "Of Facebook en Google: het zijn geen mensen die daar beslissen wat voor reclame jij ziet. Dat doet een computer."
En dat levert inderdaad gevaren op, of in ieder geval problemen waar je nu al goed over met nadenken, zegt Schomaker. "Computers kunnen echt nog niet alles wat mensen kunnen, maar al ver voor dat het zover is krijg je systemen die zelf beslissingen nemen. Mensen die wetten maken moeten serieus nadenken wat ze daar mee gaan doen."
De opstellers van de brief, die onder anderen door Tesla-oprichter Elon Musk en natuurkundige Stephen Hawking is ondertekend, vinden dat technologie met kunstmatige intelligentie vooral robuust moet zijn. Lees: je moet er op kunnen vertrouwen dat het werkt zoals jij wíl dat het werkt.
De potentie is enorm. (...) We kunnen niet voorspellen wat er allemaal mogelijk is als je kunstmatige intelligentie inzet, maar het uitroeien van ziekte en armoede is niet ondenkbaar. Vanwege die potentie, moeten we onderzoeken hoe we die kunnen benutten, terwijl we de mogelijke valkuilen omzeilen.
"Ze bedoelen bijvoorbeeld programma's die niet doen wat ze moeten doen", zegt hoogleraar kunstmatige intelligentie in Groningen Niels Taatgen. "Stel zo'n zelfrijdende auto maakt een ongeluk. Da’s niet acceptabel, zeggen zij, ook al veroorzaken mensen zelf ook ongelukken."
In de brief schrijven de experts dat we twee dingen moeten doen: bewijzen dat technologie echt goed werkt en ons afvragen of het echt wat toevoegt aan de wereld. "Als we AI (artificial intelligence) inzetten, moet je daar wat aan hebben", is Taatgen het met de briefschrijvers eens. "Facebook en Google gebruiken allerlei algoritmen om uit te vissen wat wij doen. Iedereen vraagt zich af of de dat de goede kant uitgaat, weten dat soort systemen niet te veel?"
"Sommige beslissingen die mensen zouden moeten nemen, worden overgelaten aan computers. Als je het niet eens bent met zo'n beslissing, wil je niet horen: 'ja dat was de computer'. Daar zijn mensen bang voor." Taatgen is het erg eens met de brief en ook met de voorstellen die de opstellers doen.
De oplossing heeft inderdaad twee kanten, zegt hij. De wetgeving moet toegespitst worden op de nieuwe ontwikkelingen, maar ontwerpers moeten ook naar zichzelf kijken. "Wij moeten zorgen dat het goed werkt en dat er goede controle is. Die technieken zijn er, maar dat kost wel vaak extra inspanning."