Bij het gebruik van data en algoritmen door de overheid moeten de consequenties ervan voor de burger voorop staan. Dat stelt de Nationale ombudsman in zijn visie op de inzet van ai en data-analyse binnen het publieke domein.
In de deze week gepubliceerde ombudsvisie ‘Een burger is geen dataset‘ stelt Nationale ombudsman Reinier van Zutphen dat het voor burgers duidelijk moet zijn wat zij van de overheid mogen verwachten als deze gebruik maakt van data en algoritmen.
‘Dit is niet altijd zichtbaar en herkenbaar. En heeft invloed op het vertrouwen dat burgers in de overheid hebben’, stelt hij. Wees duidelijk, toegankelijk en oplossingsgericht, is zijn oproep. Hij wil voorkomen dat er een zwarte doos ontstaat waarin de burger niet meer weet wie hij voor zich heeft.
Van Zutphen: ‘Overheden willen de burger vooropstellen. Maar in de praktijk blijkt dat dit onvoldoende gebeurt. Niemand wil dat burgers slachtoffer worden van een systeem waarin de overheid gebruikmaakt van data en algoritmen. Of dat zij worden geconfronteerd met ongewenste resultaten.’ Toch worden burgers nog nauwelijks betrokken bij het gebruik van data en algoritmen door de overheid, stelt hij.
Toeslagenaffaire
In de ombudsvisie stipt de ombudsman ook aan dat hij het belangrijk vindt dat de overheid vooraf nadenkt over het gebruik van data. En dat burgers altijd uit het systeem zijn te halen als het misgaat. Bovendien moeten persoonlijk contact en maatwerk altijd mogelijk blijven.
In een brief aan demissionair staatssecretaris Knops roept de ombudsman de overheid op om burgers centraal te stellen wanneer zij gebruikmaakt van data en algoritmen.
De Nationale ombudsman zegt actief de ontwikkelingen rondom het gebruik van data en algoritmen door de overheid te volgen en waar nodig zijn ombudsvisie uit te dragen. Ook zal hij die visie als toetsingskader inzetten bij klachten van burgers over het gebruik van data en algoritmen door de overheid.
Toeslagenaffaire
De opkomst van data-analyse en ai leidt tot snellere beslissingen, maar kan ook gruwelijk fout gaan, bijvoorbeeld bij de toeslagenaffaire. Daarin werd op basis van achternaam geselecteerd op personen met een migrantenachtergrond die onterecht als fraudeur werden aangewezen.
Ook is meestal niet te achterhalen hoe een systeem tot een bepaalde uitkomst is gekomen. Ook afwijken van een procedure als deze eenmaal in gang is gezet, is lastig in een omgeving waarin steeds meer overheidsprocessen gedigitaliseerd worden
