Privacywaakhond: pas op met gebruik AI-chatbots, ging mis bij huisarts

Er zijn afgelopen tijd meerdere gevallen gemeld van datalekken door het gebruik van een chatbot met AI (kunstmatige intelligentie). Zo voerde een medewerker van een huisartsenpraktijk persoonsgegevens in bij een programma als ChatGPT, waardoor die informatie terechtkwam in het systeem van die chatbot die daarop mogelijk weer wordt getraind.

Dit is vandaag bekendgemaakt door de Autoriteit Persoonsgegevens, die nu waarschuwt voor het gebruik van de chatbots op het werk. "Vooral in het geval van medische gegevens, die gaan naar je huisarts", zegt Karin Bruinenberg, programmamanager persoonsgegevens & algoritmes bij AP. Mensen mogen erop vertrouwen dat die daar veilig mee omgaat, zegt ze, maar toch zijn er zorgen. "Want als de informatie ingevoerd is, dan heb je er geen controle meer over als bedrijf."

Een andere melding van een datalek kwam vanuit een telecombedrijf. Daar had een medewerker een bestand met onder andere adressen ingevoerd bij een chatbot. Bij een datalek worden persoonsgegevens bedoeld of onbedoeld gedeeld met de buitenwereld.

Bedrijven achter de chatbots slaan de ingevoerde informatie op. Daardoor komen gegevens op servers te staan van verschillende Amerikaanse techbedrijven.

Chatbot gebruiken, of liever niet?

Bruinenberg: "Er zijn allerlei toepassingen voor chatbots. Sommige zijn ontzettend handig, maar je moet weten wat wel en niet kan. Zelfs een algemeen ziektebeeld zonder naam kan al onhandig zijn om in te voeren."

De toezichthouder roept bedrijven op duidelijke afspraken te maken met hun werknemers over de inzet van door kunstmatige intelligentie gestuurde chatbots. De AP ziet dat AI-chatbots op eigen initiatief van de werknemer worden gebruikt.

Als een organisatie het gebruik toestaat, moeten er afspraken worden gemaakt welke gegevens wel en vooral niet worden ingevoerd. Ook zouden bedrijven die een contract hebben met een aanbieder van chatbots afspraken kunnen maken, zegt Bruinenberg. "Dan kun je afspreken dat er met jouw input geen data worden opgeslagen voor de training van de chatbot."

In het geval dat het toch misgaat met gebruik van een chatbot en er informatie wordt gelekt, moet dit in veel gevallen worden gemeld aan de Autoriteit Persoonsgegevens. Maar ook aan degene van wie informatie is vrijgegeven.