De AP controleert zowel rekenmodellen die door de overheid worden gebruikt als algoritmen van commerciële bedrijven. Het onderzoekt op basis van klachten en tips én vanuit eigen initiatief. Bij geconstateerde overtredingen kunnen ook boetes opgelegd worden. AP-voorzitter Aleid Wolfsen kan desgevraagd nog niet voorspellen waneer bedrijven of overheden de eerste berispingen kunnen verwachten.
Voorlopig is de autoriteit sowieso nog in de opstartfase van haar nieuwe taak rondom algoritmetoezicht. Er moet nog een normenkader worden geschreven, een juridisch stuk waarin staat waaraan algoritmen die persoonsgegevens verwerken precies moeten voldoen. Dat gebeurt om burgers te beschermen tegen bijvoorbeeld discriminatie en uitsluiting. Ook werkt de AP aan een transparantieverklaring, met dat document kunnen partijen die algoritmen gebruiken inzage geven in de werking van dat rekenmodel en hoe het systeem tot een uitkomst komt.
Algoritme-waakhond
Op een bijeenkomst in een gebouw vlakbij het Binnenhof, waar de AP sinds september 2022 is gehuisvest, gaven minister Franc Weerwind (Rechtsbescherming), staatssecretaris Alexandra van Huffelen (Digitalisering) en Aleid Wolfsen (voorzitter AP) de officiële aftrap voor die nieuwe activiteiten van de ‘algoritme-waakhond’. De ‘coördinerende, sectoroverstijgende activiteiten’ zijn ondergebracht in een onderdeel van de AP dat de directie Coördinatie algoritmes, heet.
Die groep bestaat op dit moment uit 15 man, maar moet de komende jaren groeien. De toezichhouders werken samen met bestaande colleges, markttoezichthouders en rijksinspecties zoals de Ombudsman en de Rijksinspectie Digitale Infrastructuur (sinds 1 januari de nieuwe naam voor Agentschap Telecom). Ze kunnen samen met juristen en techneuten onderzoek doen naar casussen binnen specifieke sectoren. De AP is de enige partij die de bevoegdheid heeft om bij overtredingen sancties op te leggen.
De AP ontvangt voor het oppakken van de nieuwe taken vanaf 2023 één miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026. Volgens critici is dat een druppel op de gloeiende plaat. Rond 2024 zal nieuwe Europese regelgeving op het gebied van algoritmetoezicht ingaan en dan moet de algoritmetoezichthouder tot enkele tientallen medewerkers zijn gegroeid. In een persbericht over de nieuwe taken deelt de AP onder meer met welke activiteiten en ontwikkelingen rond algoritme-toezicht het aan de slag gaat. (zie kader onderaan artikel).
Toeslagenaffaire
Het ontstaan van een algoritmetoezichthouder is in een stroomversnelling geraakt na de toeslagenaffaire. Zoals vastgelegd in het coalitie-akkoord van het kabinet komt is er nu een partij die toezicht houdt op algoritmes.
'Algoritmes kunnen grote impact hebben op mensenlevens en op onze samenleving. Bijvoorbeeld of je wel of niet een lening krijgt, of je aan extra controle wordt onderworpen en of dat je wel of niet wordt uitgenodigd voor een sollicitatiegesprek. Transparantie over het gebruik van algoritmes is daarom cruciaal om discriminatie en willekeur te voorkomen’, licht Wolfsen toe
Na afloop van de aftrap uitte hij zich wel kritisch over de bezetting van zijn AP. ‘Die is nog steeds ‘royaal te laag’ zei hij. Eerder uitte Wolfsen ook al kritiek op het budget en de omvang van zijn organisatie. Hij pleitte onder meer voor een structurele geldstroom van honderd miljoen euro per jaar om taken uit te kunnen voeren in het toezicht op het gebruik van persoonsgegevens binnen de dataverwerking van digitale systemen. ‘Laten we het vandaag vooral feestelijk houden met de start van deze nieuwe taken’, zei Wolfsen.
Activiteiten algoritmetoezicht
De activiteiten in 2023 zijn onder meer:
- Bijdragen aan transparantieverplichtingen in de verschillende wet- en regelgeving. De AP zal in samenwerking met de andere toezichthouders thema’s identificeren en aanbrengen. Ook faciliteert de AP het gezamenlijk uitleggen van juridische normen en kaders. Waar nodig zoekt de AP daarbij, in samenwerking met de andere toezichthouders, aansluiting bij de internationale standaardisatie. Daarmee wordt voor bedrijven, overheden en andere organisaties duidelijker wat er van hen wordt verwacht en voor burgers wat ze kunnen verwachten.
- In de loop van 2023 zal de AP samen met de andere toezichthouders en de betrokken ministeries identificeren wat er verder nodig is om het algoritmetoezicht in Nederland te versterken. Eind 2023 publiceert de AP daartoe een gezamenlijk rapport om de ontwikkelingen in het algoritmetoezicht en de risico’s van algoritmes inzichtelijk te maken. Dit rapport wordt ook aan de Tweede Kamer aangeboden.
- De Europese Unie werkt aan diverse nieuwe verordeningen op het gebied van digitalisering. Hieronder is een nieuwe verordening voor AI-systemen, de zogeheten AI-Act. De AI-Act zal leidend zijn voor de verdere ontwikkeling van het algoritmetoezicht in Europa en Nederland.
- Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) werkt momenteel aan een aantal trajecten op het gebied van algoritmes. Bijvoorbeeld het recent gelanceerde Algoritmeregister en een implementatiekader voor overheden. Ook is er een ‘impact assessment’ voor mensenrechten bij gebruik van algoritmes gepubliceerd, het zogeheten IAMA.
Bron: AP-persbericht: Algoritmetoezicht AP van start
Uw reactie
LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren