Van Huffelen: AP kan wel bijten

Van Huffelen nam gisteren tijdens een debat in de Tweede Kamer over algoritmen en data-ethiek de vrees weg dat de AP zijn nieuwe rol slecht kan vervullen. De instantie kan boetes en andere aanwijzingen geven, vooral als algoritmes discriminerend werken of persoonsgegevens verkeerd worden gebruikt. Van Huffelen wees in dit verband op een boete van 2,75 miljoen euro die de AP onlangs aan de belastingdienst oplegde. De fiscus had volgens de AP de (dubbele) nationaliteit van aanvragers van kinderopvangtoeslag op discriminerende wijze verwerkt.

Begin januari heeft de AP extra mensen ingehuurd om algoritmes beter te kunnen controleren. Als de Europese AI Act in Nederland in werking treedt, krijgt de AP nog meer taken en bevoegdheden. Vanuit de EU is wetgeving op komst die hoge eisen stelt aan algoritmes met een hoog risico als het gaat om persoonsgegevens. ‘Die wettelijke basis zal de rol van de AP versterken,’ aldus de staatssecretaris.

De Tweede Kamer wenst algoritmes meer transparant te maken. Van Huffelen wees er in dit verband op dat de Algemene Wet Bestuursrecht (AWB) daartoe wordt versterkt.

Stroef

Het Kamerdebat begon stroef. De staatssecretaris kon de Tweede Kamer niet zeggen hoeveel algoritmes met automatische besluitvorming er bij de overheid in gebruik zijn. Veel systemen werken al met wiskundige regels zoals liften en stoplichten. Die zijn niet te tellen.

Van Huffelen zei zich liever te concentreren op algoritmes met een hoog risico als het gaat om persoonsgegevens, fundamentele burgerrechten, gezondheid en veiligheid. Maar ze wist ook in deze categorie geen aantallen te noemen. De staatssecretaris moest ook het antwoord schuldig blijven op herhaald vragen van Kamerlid Stephan van Baarle (Denk) hoe dit hoge risico wordt gedefinieerd. De Kamer heeft de indruk dat elke overheidsinstantie daar verschillend over denkt. Van Huffelen was het met de Kamer eens dat daarover duidelijkheid moet komen.

Barbara Kathmann (PvdA) en Hind Dekker (D66) vroegen de staatssecretaris of het centrale algoritme-register van de overheid versneld een verplichtend karakter kan krijgen. Het kabinet wil wachten totdat de Europese ai-verordening rond is. Maar dat kan nog jaren duren. Van Huffelen beloofde de Kamer voor de zomer in te lichten over de mogelijkheden overheidsinstanties eerder te dwingen tot verplichte opname van alle voor burgers toepasselijke algoritmen in dit register.