Rechters en bezwaarcommissies moeten kritisch zijn op overheidsbesluiten waarin algoritmes een rol spelen. Ook moet de overheid zelf transparant zijn over het gebruik van algoritmes. Dit stelt Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (AP), tijdens de Week van de Rechtsstaat over kunstmatige intelligentie (ai) in de rechtspraak.
Volgens Wolfsen veroorzaken algoritmes en ai uitdagingen voor de rechtelijke controle van overheidsbesluiten. Zo kwamen problemen met frauderisico-algoritmes bij de Belastingdienst en DUO pas laat aan het licht. Als deze organisaties transparanter waren geweest en rechters alerter, had dat veel leed bespaard.
Toelichting
De AP-topman vindt dat de overheid altijd moet aangeven wanneer algoritmes zijn gebruikt bij besluiten en daarbij duidelijke uitleg moet geven. Dit kan bijvoorbeeld in de toelichtingsbrief bij het besluit. Actieve transparantie over het gebruik van algoritmes is belangrijk, aldus Wolfsen. Daarnaast moeten rechters de impact van algoritmes op overheidsbesluiten actief toetsen, zelfs als burgers of advocaten daar niet om vragen. ‘Als in de aanloop naar een besluit bijvoorbeeld sprake is geweest van discriminatie, dan heeft dat immers bijna altijd gevolgen voor de rechtmatigheid van het besluit dat daarop volgt.’
De Autoriteit Persoonsgegevens is sinds begin 2023 landelijk coördinator algoritmetoezicht. De instantie controleert zowel rekenmodellen die door de overheid worden gebruikt als algoritmen van commerciële bedrijven. Het gaat om een coördinerende rol waarin de AP samenwerkt met bestaande colleges, markttoezichthouders en rijksinspecties. Het ontstaan van een algoritmetoezichthouder kwam in een stroomversnelling na de toeslagenaffaire.
Om reden van transparantie moet de overheid juist af van algoritmen.
Zo is het begrip ‘algoritme’ nogal dubbelzinnig; enerzijds zijn het redeneerstappen in een duistere 3GL-programmeertaal zoals Java en anderzijds met data trainbare neurale netwerken, zoals ai/LLM’s.