Toezichthouder: samenleving moet zich voorbereiden op incidenten met AI

De Nederlandse samenleving moet zich voorbereiden op incidenten met kunstmatige intelligentie (AI). Volgens privacytoezichthouder Autoriteit Persoonsgegevens (AP) moet iedereen waakzaam zijn met het gebruik van kunstmatige intelligentie, van ministers en grote bedrijven tot burgers.

De toezichthouder ziet dat AI steeds meer gebruikt wordt in de samenleving en dat daarmee de kans op incidenten groter wordt. De AP zegt dat wanneer organisaties twijfelen of ze de risico's wel onder controle hebben, ze terughoudend moeten zijn met het gebruik van kunstmatige intelligentie.

Oplichting

Als voorbeeld van zo'n incident noemt de toezichthouder een recente oplichting in Azië. Daar kreeg een medewerker van de financiële afdeling een mail om 23 miljoen euro over te maken. De werknemer vertrouwde het aanvankelijk niet, maar na een online vergadering binnen het bedrijf maakte hij het geld toch over.

Met behulp van AI waren echter de financiële topman en alle rechtstreekse collega's in de vergadering nagemaakt. Cybercriminelen deden dit met deepfaketechnologie. De opgelichte medewerker was de enige echte persoon in de groep.

Volgens de toezichthouder moeten mensen zich bewust worden van de risico's van AI en moet er ook meer kennis over komen.

Technologie ontwikkelt zich snel

De Autoriteit Persoonsgegevens ziet dat overheden "daadkrachtig" omgaan met kunstmatige intelligentie. Er wordt daar goed toezicht gehouden en cybercrime wordt goed bestreden. Wel wordt benadrukt dat de technologie zich snel ontwikkelt en dat het daarom een zaak is van de lange adem.

Uit onderzoek blijkt ook dat een groot aantal raadsleden binnen gemeentes twijfelen of ze voldoende kennis hebben van AI en de systemen die binnen de organisatie gebruikt worden. De AP pleit voor versterking binnen deze groep.

Kritiek op grote bedrijven

De AP is kritisch op grote bedrijven die volgens de toezichthouder toepassingen zo snel als mogelijk op de markt willen brengen. Ze zien dat dit regelmatig misgaat en dat systemen bijvoorbeeld teruggetrokken moeten worden.

Overheidsdiensten zoals het Rijk, provincies en gemeenten houden in een register bij welke vormen van AI zij gebruiken. De toezichthouder wil dat ook semipublieke organisaties delen wat ze doen. Dit gaat bijvoorbeeld om het onderwijs, de zorg, woningcorporaties en het openbaar vervoer omdat AI daar wordt ingezet in situaties waarin mensen kwetsbaar zijn.