Privacywaakhond maakt zich zorgen over AI-chatbot gericht op kinderen

De Autoriteit Persoonsgegevens heeft een techbedrijf om duidelijkheid gevraagd over het gebruik van een chatbot in een app. Het bedrijf wordt niet bij naam genoemd, maar het gaat om een chatbot aangestuurd door AI (kunstmatige intelligentie) die populair is bij kinderen.

Een van de bekendste apps met een chatbot die ook populair is bij kinderen, is My AI van Snapchat. Snapchat introduceerde de functie eerder dit jaar, tijdens de enorme hype die was ontstaan met ChatGPT. My AI vloog uit de bocht: de chatbot wilde in het echt afspraken maken. Nadat er kritiek was gekomen, voerde Snapchat aanpassingen door en meldde My Al dat hij helaas niet fysiek kon afspreken.

Een woordvoerder van de Autoriteit Persoonsgegevens kan desgevraagd niet zeggen of dit inderdaad het bedrijf is. Snapchat was niet direct bereikbaar voor commentaar.

Het techbedrijf moet onder meer vragen beantwoorden over hoe transparant de app is over het gebruik van gebruikersdata en "of er goed is nagedacht" over een bewaartermijn voor gegevens die zijn verzameld. Op basis van de antwoorden beslist de Autoriteit Persoonsgegevens over vervolgstappen. Bij overtredingen behoren onder meer boetes tot de mogelijkheden.

De Autoriteit Persoonsgegevens kijkt al langer naar de privacy-effecten van generatieve AI, waarbij computers op basis van kunstmatige intelligentie met een opdracht zelf tekst, afbeeldingen of bijvoorbeeld audio genereren. Eerder vroeg de waakhond al om opheldering bij OpenAI; daar is sindsdien geen update over gekomen.