AP wordt landelijk coördinator algoritmetoezicht

Dit artikel delen:

Minister Franc Weerwind (Rechtsbescherming), staatssecretaris Alexandra van Huffelen (Digitalisering) en Aleid Wolfsen (voorzitter AP) bij de start van de nieuwe rol van de AP als algoritmetoezichthouder

De Autoriteit Persoonsgegevens (AP) heeft er sinds 1 januari 2023 officieel een taak bij. De privacy-toezichthouder ziet toe op algoritmen. Het gaat om een coördinerende rol waarin het samenwerkt met bestaande colleges, markttoezichthouders en rijksinspecties.

De AP controleert zowel rekenmodellen die door de overheid worden gebruikt als algoritmen van commerciële bedrijven. Het onderzoekt op basis van klachten en tips én vanuit eigen initiatief. Bij geconstateerde overtredingen kunnen ook boetes opgelegd worden. AP-voorzitter Aleid Wolfsen kan desgevraagd nog niet voorspellen waneer bedrijven of overheden de eerste berispingen kunnen verwachten.

Voorlopig is de autoriteit sowieso nog in de opstartfase van haar nieuwe taak rondom algoritmetoezicht. Er moet nog een normenkader worden geschreven, een juridisch stuk waarin staat waaraan algoritmen die persoonsgegevens verwerken precies moeten voldoen. Dat gebeurt om burgers te beschermen tegen bijvoorbeeld discriminatie en uitsluiting. Ook werkt de AP aan een transparantieverklaring, met dat document kunnen partijen die algoritmen gebruiken inzage geven in de werking van dat rekenmodel en hoe het systeem tot een uitkomst komt. 

Algoritme-waakhond

Op een bijeenkomst in een gebouw vlakbij het Binnenhof, waar de AP sinds september 2022 is gehuisvest, gaven minister Franc Weerwind (Rechtsbescherming), staatssecretaris Alexandra van Huffelen (Digitalisering) en Aleid Wolfsen (voorzitter AP) de officiële aftrap voor die nieuwe activiteiten van de ‘algoritme-waakhond’. De ‘coördinerende, sectoroverstijgende activiteiten’ zijn ondergebracht in een onderdeel van de AP dat de directie Coördinatie algoritmes, heet. 

Die groep bestaat op dit moment uit 15 man, maar moet de komende jaren groeien. De toezichhouders werken samen met bestaande colleges, markttoezichthouders en rijksinspecties zoals de Ombudsman en de Rijksinspectie Digitale Infrastructuur (sinds 1 januari de nieuwe naam voor Agentschap Telecom). Ze kunnen samen met juristen en techneuten onderzoek doen naar casussen binnen specifieke sectoren. De AP is de enige partij die de bevoegdheid heeft om bij overtredingen sancties op te leggen. 

De AP ontvangt voor het oppakken van de nieuwe taken vanaf 2023 één miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026. Volgens critici is dat een druppel op de gloeiende plaat. Rond 2024 zal nieuwe Europese regelgeving op het gebied van algoritmetoezicht ingaan en dan moet de algoritmetoezichthouder tot enkele tientallen medewerkers zijn gegroeid. In een persbericht over de nieuwe taken deelt de AP onder meer met welke activiteiten en ontwikkelingen rond algoritme-toezicht het aan de slag gaat. (zie kader onderaan artikel). 

Toeslagenaffaire

"De bezetting van de AP is nog steeds royaal te laag"

Het ontstaan van een algoritmetoezichthouder is in een stroomversnelling geraakt na de toeslagenaffaire. Zoals vastgelegd in het coalitie-akkoord van het kabinet komt is er nu een partij die toezicht houdt op algoritmes.

'Algoritmes kunnen grote impact hebben op mensenlevens en op onze samenleving. Bijvoorbeeld of je wel of niet een lening krijgt, of je aan extra controle wordt onderworpen en of dat je wel of niet wordt uitgenodigd voor een sollicitatiegesprek. Transparantie over het gebruik van algoritmes is daarom cruciaal om discriminatie en willekeur te voorkomen’, licht Wolfsen toe

Na afloop van de aftrap uitte hij zich wel kritisch over de bezetting van zijn AP. ‘Die is nog steeds ‘royaal te laag’ zei hij. Eerder uitte Wolfsen ook al kritiek op het budget en de omvang van zijn organisatie. Hij pleitte onder meer voor een structurele geldstroom van honderd miljoen euro per jaar om taken uit te kunnen voeren in het toezicht op het gebruik van persoonsgegevens binnen de dataverwerking van digitale systemen. ‘Laten we het vandaag vooral feestelijk houden met de start van deze nieuwe taken’, zei Wolfsen. 

Activiteiten algoritmetoezicht

De activiteiten in 2023 zijn onder meer: 

  • Bijdragen aan transparantieverplichtingen in de verschillende wet- en regelgeving. De AP zal in samenwerking met de andere toezichthouders thema’s identificeren en aanbrengen. Ook faciliteert de AP het gezamenlijk uitleggen van juridische normen en kaders. Waar nodig zoekt de AP daarbij, in samenwerking met de andere toezichthouders, aansluiting bij de internationale standaardisatie. Daarmee wordt voor bedrijven, overheden en andere organisaties duidelijker wat er van hen wordt verwacht en voor burgers wat ze kunnen verwachten.
  • In de loop van 2023 zal de AP samen met de andere toezichthouders en de betrokken ministeries identificeren wat er verder nodig is om het algoritmetoezicht in Nederland te versterken. Eind 2023 publiceert de AP daartoe een gezamenlijk rapport om de ontwikkelingen in het algoritmetoezicht en de risico’s van algoritmes inzichtelijk te maken. Dit rapport wordt ook aan de Tweede Kamer aangeboden.
  • De Europese Unie werkt aan diverse nieuwe verordeningen op het gebied van digitalisering. Hieronder is een nieuwe verordening voor AI-systemen, de zogeheten AI-Act. De AI-Act zal leidend zijn voor de verdere ontwikkeling van het algoritmetoezicht in Europa en Nederland.
  • Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) werkt momenteel aan een aantal trajecten op het gebied van algoritmes. Bijvoorbeeld het recent gelanceerde Algoritmeregister en een implementatiekader voor overheden. Ook is er een ‘impact assessment’ voor mensenrechten bij gebruik van algoritmes gepubliceerd, het zogeheten IAMA.

Bron: AP-persbericht: Algoritmetoezicht AP van start

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden
Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste ict-nieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in
Vacatures bij AP

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2023-01-16T17:25:00.000Z Pim van der Beek


Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.