Gemeenten worstelen met mensenrechten bij ai

Lokale overheden vinden het lastig algoritmes in te zetten en tegelijkertijd de mensenrechten te beschermen. De wil is er, maar de ervaring ontbreekt. Ze vertrouwen op bestaande procedures waarmee burgers hun recht kunnen halen. Dit blijkt uit onderzoek voor het College voor de Rechten van de Mens (CRM).

Als gemeenten beslissingen nemen, gebeurt dat normaliter democratisch en met aandacht voor de mensenrechten. Door sommige beslissingen over te laten aan algoritmes, is dit niet vanzelfsprekend. Dit heeft volgens het CRM te maken met de in- en externe organisatie van gemeenten.

Er is een scheidslijn tussen beleid en uitvoering en eentje tussen datagedreven werk en de traditionele it die zorgt dat computers werken. Vaak is onduidelijk welk onderdeel van de organisatie verantwoordelijk is, waardoor het lastig is heldere afspraken te maken over de inzet van technologie en over de verantwoording daarover.

Commerciële softwarepakketten

"Softwareontwikkelaars zetten wetten om in code"

Een complicerende factor is dat de meeste gemeenten commercieel ontwikkelde softwarepakketten gebruiken. Vaak hebben gemeenten de functionaliteit en de wijze waarop wetten in de systemen worden geïnterpreteerd, niet zelf ontworpen of voorgeschreven. Dit kan volgens het CRM op gespannen voet staan met de lokale autonomie. Er ligt veel macht bij softwareontwikkelaars. 'Zij zetten wetten om in code', schrijft het mensenrechtencollege.

Bij digitale dienstverlening bieden gemeenten vooral aandacht voor de bescherming van persoonsgegevens, maar niet voor toetsing van de impact op de mensenrechten, aldus het CRM. Onder invloed van bijvoorbeeld de toeslagenaffaire komt hier langzaamaan wel meer aandacht voor.

Als inwoners het niet eens zijn met een beslissing die is gebaseerd op een algoritme, is het niet duidelijk waar deze persoon terecht kan. Gemeenten wijzen standaard naar de mogelijkheid om in bezwaar of in beroep te gaan, of verwijzen door naar de ombudsman.

Wel of geen algoritmes?

Sommige gemeenten gebruiken nog helemaal geen algoritmes. Anderen zeggen de technologie niet in te zetten voor besluitvormingsprocessen, terwijl de kans volgens het CRM groot is dat daarvoor wel degelijk algoritmes worden gebruikt. Ai wordt vaak toegepast bij het proces van kwijtschelding van gemeentelijke belastingen, bij de berekening van bepaalde uitkeringen en bij online monitoring, aldus het college. Ze zetten de technologie bovendien steeds vaker in voor risicoprofilering

Het CRM roept gemeenten op tot samenwerking bij de inkoop van software en zo de mensenrechten bij de inzet van algoritmes beter te beschermen. Ook wil het college in overleg met softwareontwikkelaars.

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden
Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste ict-nieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2021-07-02T09:59:00.000Z Diederik Toet