AP onderzoekt ai-chatbot in populaire kinder-app

De privacytoezichthouder ziet grote risico’s bij het aanbieden van toepassingen zoals ai-chatbots aan kinderen, omdat minderjarigen zich onvoldoende bewust zijn van deze risico’s. ‘Het is belangrijk dat zij bijvoorbeeld weten wat er gebeurt met hun chatberichten en of ze praten met een chatbot of met een echt persoon.’

De AP bevraagt het techbedrijf onder meer over hoe transparant de app is over het gegevensgebruik en of er goed is nagedacht over een bewaartermijn voor de verzamelde gegevens. Naar aanleiding daarvan bepaalt het of vervolgstappen nodig zijn.

Zorgen

De toezichthouder maakt zich al langer zorgen over de omgang met persoonsgegevens bij organisaties die gebruikmaken van zogeheten generatieve artificiële intelligentie (ai). Er lopen meerdere onderzoeken.

Eerder meldde de privacywaakhond verschillende acties te ondernemen richting organisaties die gebruikmaken van generatieve ai. Zo werd deze zomer softwareontwikkelaar OpenAI om opheldering gevraagd over chatbot ChatGPT. Onder meer over hoe het bedrijf omgaat met persoonsgegevens bij het trainen van het onderliggende systeem.

Ook maakt de AP onderdeel uit van de Taskforce ChatGPT van het samenwerkingsverband van de Europese privacytoezichthouders, de European Data Protection Board (EDPB).

Naam niet bekend

Zolang het onderzoek naar de maker van de kinderapp loopt, wil de AP de naam van dat bedrijf uit juridische overweging niet noemen. Mochten er misstanden gevonden worden, dan wordt de naam wel bekend gemaakt, laat de AP weten.

Bij onderzoeken naar overheden noemt de privacywaakhond de namen van die partijen overigens wel. Ook bij het onderzoek naar ChatGPT-maker OpenAI is de naam genoemd. Dat komt omdat er door de Italiaanse toezichthouder al een verbod op het gebruik van die toepassing was ingesteld en de naam dus al publiekelijk bekend was, verduidelijkt de woordvoerder desgevraagd.