Het kabinet verwacht eind dit jaar met een standpunt te komen over generatieve ai. Ook ChatGPT als een van de populairste generatieve ai-tools valt daar onder.
Dit antwoordt demissionair minister Frank Weerwind (Rechtsbescherming) op vragen van het Kamerlid Lammert van Raan (Partij van de Dieren) naar aanleiding van een artikel in De Groene Amsterdammer. De bewindsman onthoudt zich van een oordeel over het aan banden leggen van ChatGPT vanwege privacyzorgen. Dat is een taak voor de Autoriteit Persoonsgegevens (AP), aldus Weerwind.
Die privacy-waakhond moet ook uitzoeken of ChatGPT zijn taalmodel traint op basis van miljoenen onrechtmatig verkregen documenten van Docplayer.nl, zoals De Groene stelt. Onopgehelderd is gebleven of die documenten vol staan met bsn’s, persoonlijke belastingaangiftes, curricula vitae en andere persoonsgegevens.
AP en OpenAI
De AP wil van OpenAI, het bedrijf achter ChatGPT, weten welke data worden gebruikt om het algoritme te trainen en op welke manier dat gebeurt. Verder sprak de AP zijn zorgen uit omtrent informatie over mensen die GPT gebruikt. De gegenereerde inhoud kan onnauwkeurig zijn, verouderd, onjuist, ongepast, beledigend, of aanstootgevend en kan een eigen leven gaan leiden. Of en zo ja hoe OpenAI die gegevens kan rectificeren of verwijderen, vindt de AP onduidelijk.
Weerwind beschikt niet over informatie over de manier waarop ChatGPT gegevens verwerkt. De minister deelt de zorg of gegevensverwerking door ChatGPT strookt met de regels van het gegevensbeschermingsrecht. Hij kan niet zeggen of ChatGPT inbreuk maakt op het auteursrecht, mocht ChatGPT Docplayer.nl inderdaad als bron gebruiken voor het trainen van zijn taalmodel.
Ik lees dat de AP van OpenAI wil weten welke data zij gebruikt om het LLM te trainen en op welke manier dat gebeurt. Dat is vragen aan WC-eend wat de formule is van WC-eend. Dat zou de AP zelf moeten kunnen uitzoeken, want OpenAI pretendeert open te zijn en publiceert al z’n algoritmen. En als de AP het (om moverende redenen) niet zelf kan of wil onderzoeken, stel zo’n vraag dan aan een onafhankelijke onderzoeker om het WC-eend effect te vermijden.