De Autoriteit Persoonsgegevens (AP) waarschuwt voor de inzet van de meest recente innovaties op gebied van artificiële intelligentie (ai). Zolang de risico’s niet voldoende kunnen worden beheerst, doen organisaties er verstandig aan terughoudend te zijn. Bij twijfels is het beter een pas op de plaats te maken.
Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland (RAN), die de AP vandaag heeft gepubliceerd. Voor deze analyse maakt de AP in de definitie geen onderscheid tussen ai en algoritmes, zijnde een opeenvolging van stappen om een goed gedefinieerde taak op te lossen.
Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn op dit moment de belangrijkste risico’s rond ai. Tot de risico’s behoren discriminatie, oneerlijke uitkomsten, misleiding en gebrek aan transparantie en uitlegbaarheid. Onlangs verbood minister Robbert Dijkgraaf (OCW) de Dienst Uitvoering Onderwijs (DUO) verder te gaan met een algoritme voor de opsporing van fraude. Ook het Criminaliteits Anticipatie Systeem (CAS) van de Nederlandse politie is omstreden.
AP-voorzitter Aleid Wolfsen: ‘Om de vele kansen te benutten, moeten de risico’s goed beheerst worden. Het bewustzijn hierover neemt toe, maar veel overheden en bedrijven zijn nog zoekende naar de juiste manier om dit te doen.’
Daarom acht de AP duidelijke regelgeving nu cruciaal. De toezichthouder roept het demissionaire kabinet op om hierin voortgang te blijven maken. Organisaties kunnen zelf al een stap zetten door meer personeel en scholing in te zetten in de bewaking van algoritmes.’
Uiterste termijn
De AP pleit voor overkoepelend zicht op het gebruik door de overheid en door maatschappelijke organisaties. De toezichthouder is positief over het algoritmeregister dat het demissionaire kabinet heeft ingesteld voor ai die bij de overheid in gebruik is. Momenteel is het voor overheden nog niet verplicht om algoritmes te publiceren.
Maar voor overheids-algoritmes met een hoog risico zou alvast een uiterste termijn moeten worden vastgesteld. De AP roept het kabinet op om gemeenten en andere overheden één jaar de tijd te geven om het register verplicht te vullen met alle algoritmes uit deze categorie. Het advies is alvast aan te sluiten bij de (verwachte) classificatie van hoogrisico-systemen onder de Europese AI-verordening die nu in onderhandeling is.
De AP wil voortaan elk halfjaar een rapportage over algoritmes publiceren. Sinds begin dit jaar doet deze autoriteit ook het toezicht op ai.
UWV
Ook is er discussie over de rol van een algoritme dat het UWV tot begin dit jaar heeft gebruikt bij de opsporing van uitkeringsgerechtigden die illegaal in het buitenland verblijven terwijl ze een WW-uitkering ontvangen. Gekeken werd bijvoorbeeld of bezoekers van UWV.nl en Werk.nl vanuit het buitenland inlogden, bleek uit onderzoek van NOS en Nieuwsuur naar de fraude-opsporende algoritmes van de uitvoeringsorganisatie. De AP noemt de werkwijze van het UWV zorgelijk.
