Nederland moet zich voorbereiden op meer incidenten met kunstmatige intelligentie (ai) en waakzaam zijn bij het gebruik ervan. Dat staat in de recentste halfjaarrapportage van de Autoriteit Persoonsgegevens (AP), die het toezicht op algoritmes en ai coördineert. Volgens de organisatie verloopt de beheersing van de risico’s niet in hetzelfde tempo als de inzet van de technologie.
Ai staat nog in de kinderschoenen, schrijft de AP. Er wordt volop geëxperimenteerd, maar organisaties twijfelen nog hoe goed zij de risico’s kennen. Volgens de toezichthouder voldoende reden tot zorgvuldige inzet en een verhoogd bewustzijn onder burgers, bestuurders en volksvertegenwoordigers. In Nederland zou het vertrouwen in ai lager liggen dan in andere landen en worden de risico’s, zoals cyberaanvallen, deepfakes, privacyschendingen en discriminatie, steeds zichtbaarder in het dagelijks leven.
Prioriteit aan algoritmeregistratie
De AP stelt maatregelen voor, zoals aselecte steekproeven om discriminatie tegen te gaan. Ook moet meer werk worden gemaakt van transparantie en controle over informatievoorziening via ai-systemen. De organisatie roept het kabinet op om prioriteit te geven aan algoritmeregistratie door overheden, en dit register uit te breiden naar semi-publieke overheden, zoals onderwijs, gezondheidszorg, de socialehuursector en het openbaar vervoer. Het aantreden van het nieuwe kabinet zou een kans zijn om de nationale ai-strategie te evalueren en te verbeteren.
De Autoriteit Persoonsgegevens is sinds begin 2023 landelijk coördinator algoritmetoezicht. De instantie controleert zowel rekenmodellen die door de overheid worden gebruikt als algoritmen van commerciële bedrijven. Het gaat om een coördinerende rol waarin de AP samenwerkt met bestaande colleges, markttoezichthouders en rijksinspecties. Het ontstaan van een algoritmetoezichthouder kwam in een stroomversnelling na de toeslagenaffaire. Afgelopen juni riep de Autoriteit Persoonsgegevens samen met de Rijksinspectie Digitale Infrastructuur (RDI) het nieuwe kabinet op om het toezicht op ai-systemen snel te regelen. Daarbij moet vooral de taakverdeling tussen de verschillende instanties worden vastgelegd en moet op tijd budget en personeel beschikbaar zijn.
