De Autoriteit Persoonsgegevens (AP) roept het nieuwe kabinet op om snel werk te maken van de uitvoering en handhaving van de Europese ai-regelgeving. Uit de zesde editie van de halfjaarlijkse ‘Rapportage AI & Algoritmes Nederland (RAN)‘ blijkt dat vier van de negen graadmeters van de AI-Impactbarometer nu rood kleuren, tegenover twee in de vorige rapportage.
De AP signaleert een gebrek aan voortgang bij toezicht, standaarden, registratie van algoritmes en zicht op incidenten. Voorzitter Aleid Wolfsen waarschuwt: ‘Wie een nieuw schandaal wil voorkomen, moet nú handelen.’ De risico’s nemen exponentieel toe door nieuwe toepassingen zoals ‘agentic ai’, terwijl sommige organisaties proberen regelgeving te omzeilen, zoals bij OxRec, een systeem dat wordt gebruikt door reclasseringsorganisaties om het risico op recidive te voorspellen. Hoewel het in het algoritmeregister stond ingeschreven als een regulier algoritme, betreft het volgens de AP een volwaardig ai‑systeem dat onder zwaardere regels valt. De toezichthouder ziet wekelijks nieuwe inschrijvingen waarbij dezelfde fout wordt gemaakt, waardoor de risico’s voor burgers volgens de AP ‘voortdurend toenemen’.
Wildgroei
De toezichthouder wijst op toenemende risico’s zoals deepfakes, ai-fraude en psychische schade door chatbots, en benadrukt dat ai voor werving en selectie als hoogrisico geldt en vanaf augustus dit jaar aan strenge eisen moet voldoen. De AP dringt daarom aan op snelle wetgeving, aanwijzing van toezichthouders en structurele financiering om betrouwbare en veilige ai in Nederland te borgen.
Daarnaast wijst de AP op een reeks recente ai‑incidenten die volgens de organisatie ook laten zien dat het toezicht momenteel tekortschiet. Zo leidde de wildgroei aan ai‑gestuurde stemwijzers tot misleidende adviezen, terwijl via Grok zonder moeite levensechte naaktbeelden van willekeurige personen konden worden gegenereerd. Deze voorbeelden onderstrepen volgens de AP hoezeer grondrechten, veiligheid en privacy onder druk staan, juist nu de technologische ontwikkeling sneller gaat dan de inrichting van toezicht en regelgeving.
