Zwaarbevochten wet kunstmatige intelligentie: wat mag straks wel en niet?
Na dagen van intensieve onderhandelingen, waar een evenzo intensieve lobby aan voorafging, ligt er sinds vrijdag een voorlopig akkoord over Europese regels voor kunstmatige intelligentie (AI). Veel details zijn nog onduidelijk, en het duurt nog even voor de regels ook daadwerkelijk ingaan. Dit alles neemt niet weg dat de wet grote gevolgen gaat hebben voor AI in Europa.
De maatschappij is er de afgelopen jaren al steeds meer verweven mee geraakt en dat gaat naar verwachting alleen maar meer worden. Deze nieuwe wet moet ervoor zorgen dat systemen van bedrijven niet uit de bocht vliegen, maar ook dat het gebruik ervan door opsporingsdiensten aan regels gebonden is.
Vier vragen en antwoorden over wat er is afgesproken.
Wat mag er straks niet meer?
De verboden zijn de zwaarst bevochten onderdelen van de hele wet. Er is dagen over gesproken. "We wisten dat het verbieden van realtime gezichtsherkenning op afstand niet zou gaan lukken", zegt GroenLinks-Europarlementariër Van Sparrentak, die aan tafel zat bij de onderhandelingen. "Daar hebben we een compromis over bereikt."
Het wordt onder meer verboden om ongericht data van gezichten te verzamelen van internet of beelden van beveiligingscamera's om zo een gezichtsherkenningsdatabase te bouwen. Ook mag AI niet worden ingezet voor wat 'predictive policing' wordt genoemd; op basis van data proberen te voorspellen waar en door wie een misdaad gepleegd zal worden. "De technische dingen die ervoor zorgden dat het toeslagenschandaal mogelijk was, die zijn nu verboden", zegt Van Sparrentak. "Daar ben ik echt heel trots op."
Er zijn drie uitzonderingen gemaakt waarin opsporingsdiensten onder voorwaarden wel gebruik mogen maken van gezichtsherkenning. Als het leven van een slachtoffer in gevaar is (denk aan een ontvoering), bij directe dreiging van bijvoorbeeld een aanslag en bij bepaalde misdaden waarbij al een verdachte in beeld is. Het gaat onder meer om terrorisme, mensenhandel en seksuele uitbuiting. Er is wel toestemming van een rechter nodig, er moet een mensenrechtentoets plaatsvinden en er mag alleen worden gezocht naar een specifiek persoon.
Komen er strenge regels voor chatbots?
Chatbots vallen onder wat ze 'general purpose AI' noemen, AI-systemen die geen specifiek doel hebben en voor meerdere doeleinden gebruikt kunnen worden. Hoe streng de regels zijn, hangt af van hun impact. Voor alle systemen geldt dat duidelijk moet zijn hoe ze werken, op basis van welke data ze getraind zijn en of ze geen auteursrechten schenden. Ook moet er duidelijkheid zijn over hun energieverbruik.
De strengste regels gaan alleen gelden voor de 'meest geavanceerde' modellen, aldus een bron bij de Europese Commissie. Die kan nog niet vertellen welke bedrijven er wel of niet mee te maken gaan krijgen. Makers in deze categorie moeten testen of de modellen accuraat en goed beveiligd zijn. Ook moeten ze onderzoeken wat hun grootste risico's zijn en deze ondervangen. "ChatGPT-maker OpenAI erkende in gesprek met mij dat ze al deze maatregelen al nemen, maar ze willen het niet in regels vastgelegd hebben", vertelt Van Sparrentak.
Van Sparrentak gaat ervan uit dat in ieder geval de meest geavanceerde versie van ChatGPT, GPT4, eronder valt evenals de nieuwste technologie van Google, Gemini Ultra. Volgens de bron is er tijdens de onderhandelingen niet gesproken over specifieke bedrijven.
Vallen Europese bedrijven ook onder de regels?
Ja. Maar dat betekent niet dat ze allemaal even strenge regels krijgen. De Spaanse minister voor Digitalisering en AI, die de lidstaten vertegenwoordigde tijdens de onderhandelingen, zei na afloop dat alle "Europese bedrijven zeer lichte verplichtingen" krijgen.
In de sterke lobby voorafgaand aan de laatste onderhandelingen werden twee Europese bedrijven steevast genoemd: Mistral AI en Aleph Alpha. "Zij vallen nog niet onder de strenge regels", zegt Van Sparrentak. "Ze zijn nu nog te klein en hebben niet genoeg impact. Die definitie, impact hebben, vinden ze niet zo leuk."
Wat betekent deze wet voor consumenten?
Eerst zijn bedrijven en overheden aan zet om de komende een tot twee jaar te kijken of zij aanpassingen moeten doen bij de inzet van AI. Voor consumenten moet het straks duidelijk zijn dat ze te maken hebben met een chatbot of met door AI gegenereerd materiaal. Verder moet er meer transparantie komen over hoe AI tot keuzes komt en er komt een klachtenprocedure.
