Strengere EU-regels kunstmatige intelligentie onzeker na lobby grote landen
De kans neemt toe dat de technologie achter chatbot ChatGPT en vergelijkbare AI-tools ontsnapt aan strenge Europese regels voor kunstmatige intelligentie, de zogenoemde AI Act. Een opvallende koerswijziging: deze zomer waren zowel de EU-lidstaten als het Europees Parlement hier juist voor.
Het komt door een draai van de drie grootste EU-landen, Duitsland, Frankrijk en Italië. Die vrezen dat té strenge regels niet alleen Amerikaanse techgiganten treffen, maar juist ook Europese partijen, en dat willen ze voorkomen. Ook onder meer het Franse AI-bedrijf Mistral AI heeft zich er met uitgesproken standpunten mee bemoeid.
Vandaag is de laatste, cruciale onderhandelingsronde tussen het Europees Parlement en de Raad van de Europese Unie (de lidstaten), onder leiding van de Europese Commissie.
Aan de AI Act wordt al jaren gewerkt. Het uitgangspunt is: hoe groter de risico's, hoe strenger de regels. De regels werden al bedacht voordat ChatGPT eind vorig jaar op de markt kwam.
Brussel wil de ontwikkelingen rond kunstmatige intelligentie streng in de gaten houden. Daarbij wordt uitgegaan van zogeheten foundation models: de onderliggende technologie waarop bijvoorbeeld ChatGPT draait.
Ontwikkelaars moeten bijvoorbeeld worden verplicht om ervoor te zorgen dat hun technologie mensenrechten, gezondheid en het milieu niet kan schaden. Daarnaast moeten ze het misbruik van auteursrechtelijk beschermd materiaal tegengaan.
Zelf regels opstellen
Maar dit plan staat nu dus op losse schroeven. Vorige maand publiceerden Frankrijk, Duitsland en Italië gezamenlijk een document, waarin ze ervoor pleiten dat bedrijven zelf regels mogen opstellen.
Het betekent dat machtige techbedrijven zoals Microsoft, Google en Meta, maar ook ChatGPT's maker OpenAI, zelf zouden gaan uitleggen hoe hun technologie werkt en wat die wel en die niet kan. Er zou wel een vorm van toezicht moeten komen.
Critici vrezen dat bedrijven daardoor vooral zullen kijken naar wat voor henzelf voordelig is, en minder naar maatschappelijke belangen.
Waar ze naartoe willen is natuurlijk dat ze geen boetes kunnen krijgen.
"Dan heb je geen stok achter de deur", reageert Catelijne Muller, voorzitter van AI-organisatie ALLAI. Zij volgt al jarenlang de discussie over de AI Act. "Waar ze naartoe willen natuurlijk is dat ze geen boetes kunnen krijgen." Dat staat ook in het voorstel van de drie landen. Zij willen beginnen zonder sanctiesysteem en daar pas over gaan nadenken als er meerdere overtredingen zijn begaan.
Voor janjoker
De impact van het lobbydocument is groot, aangezien de betreffende lidstaten veel invloed hebben. "Blijkbaar zijn we dus echt voor janjoker al maanden aan het praten over dit onderwerp", verzucht Europarlementariër Kim van Sparrentak (GroenLinks), die namens de Groenen deelneemt aan de onderhandelingen.
Volgens haar zit er een flinke techlobby achter het document. Niet alleen van Amerikaanse techgiganten, van wie bekend is dat ze op allerlei grote techdossiers in Europa proberen veel invloed uit te oefenen, maar juist ook van twee Europese spelers. Van Sparrentak wijst naar het Franse Mistral AI en het Duitse Aleph Alpha.
Ze noemt daarbij met name de toplobbyist van Mistral, Cédric O, die eerder minister van Digitale Zaken was in de regering van president Macron. Volgens Euractiv, een nieuwssite over de EU, was hij een van de drijvende krachten achter een brief van Europese bedrijven deze zomer, die hun zorgen uitten over de AI Act. Eurocommissaris Breton wees er in het zakenblad La Tribune op dat Mistral niet het algemene belang dient.
Aleph Alpha bevestigt desgevraagd dat het het plan van de drie grote landen steunt. "Door de dynamische ontwikkeling is er een opzet nodig die snel aanpasbaar is." Oftewel: ze willen meer vrijheid. Mistral AI heeft nog niet gereageerd.
In gesprek met Sifted, een Europees georiënteerde techsite, waarschuwde Cédric O eind oktober dat de AI-wet zijn bedrijf Mistral kapot kan maken. Hij maakt zich vooral zorgen over de hoeveelheid administratie die de wet met zich meebrengt.
Mistral heeft twintig medewerkers, bestaat pas een half jaar en zou nu al 1 of 2 miljard euro waard zijn. Vier weken na zijn oprichting haalde het bedrijf al een investering van 105 miljoen euro binnen.
Europarlementariër Van Sparrentak zegt dat het parlement in de laatste onderhandelingsronde gaat proberen om regels, bijvoorbeeld rond het testen van de systemen, alsnog bindend te maken. Lukt dat niet, dan zal bedrijven hooguit worden gevraagd om "hun best te doen".
