Computable.nl
  • Thema’s
    • Carrière
    • Innovatie & Transformatie
    • Cloud & Infrastructuur
    • Data & AI
    • Governance & Privacy
    • Security & Awareness
    • Software & Development
    • Werkplek & Beheer
  • Sectoren
    • Channel
    • Financiële dienstverlening
    • Logistiek
    • Onderwijs
    • Overheid
    • Zorg
  • Computable Awards
    • Overzicht
    • Nieuws
    • Winnaars
    • Partner worden
  • Vacatures
    • Vacatures bekijken
    • Vacatures plaatsen
  • Bedrijven
    • Profielen
    • Producten & Diensten
  • Kennisbank
  • Nieuwsbrief

Gemeenten worstelen met mensenrechten bij ai

02 juli 2021 - 08:01ActueelInnovatie & TransformatieMinisterie van BZK
Diederik Toet
Diederik Toet

Lokale overheden vinden het lastig algoritmes in te zetten en tegelijkertijd de mensenrechten te beschermen. De wil is er, maar de ervaring ontbreekt. Ze vertrouwen op bestaande procedures waarmee burgers hun recht kunnen halen. Dit blijkt uit onderzoek voor het College voor de Rechten van de Mens (CRM).

Als gemeenten beslissingen nemen, gebeurt dat normaliter democratisch en met aandacht voor de mensenrechten. Door sommige beslissingen over te laten aan algoritmes, is dit niet vanzelfsprekend. Dit heeft volgens het CRM te maken met de in- en externe organisatie van gemeenten.

Er is een scheidslijn tussen beleid en uitvoering en eentje tussen datagedreven werk en de traditionele it die zorgt dat computers werken. Vaak is onduidelijk welk onderdeel van de organisatie verantwoordelijk is, waardoor het lastig is heldere afspraken te maken over de inzet van technologie en over de verantwoording daarover.

Commerciële softwarepakketten

Een complicerende factor is dat de meeste gemeenten commercieel ontwikkelde softwarepakketten gebruiken. Vaak hebben gemeenten de functionaliteit en de wijze waarop wetten in de systemen worden geïnterpreteerd, niet zelf ontworpen of voorgeschreven. Dit kan volgens het CRM op gespannen voet staan met de lokale autonomie. Er ligt veel macht bij softwareontwikkelaars. ‘Zij zetten wetten om in code’, schrijft het mensenrechtencollege.

Bij digitale dienstverlening bieden gemeenten vooral aandacht voor de bescherming van persoonsgegevens, maar niet voor toetsing van de impact op de mensenrechten, aldus het CRM. Onder invloed van bijvoorbeeld de toeslagenaffaire komt hier langzaamaan wel meer aandacht voor.

Als inwoners het niet eens zijn met een beslissing die is gebaseerd op een algoritme, is het niet duidelijk waar deze persoon terecht kan. Gemeenten wijzen standaard naar de mogelijkheid om in bezwaar of in beroep te gaan, of verwijzen door naar de ombudsman.

Wel of geen algoritmes?

Sommige gemeenten gebruiken nog helemaal geen algoritmes. Anderen zeggen de technologie niet in te zetten voor besluitvormingsprocessen, terwijl de kans volgens het CRM groot is dat daarvoor wel degelijk algoritmes worden gebruikt. Ai wordt vaak toegepast bij het proces van kwijtschelding van gemeentelijke belastingen, bij de berekening van bepaalde uitkeringen en bij online monitoring, aldus het college. Ze zetten de technologie bovendien steeds vaker in voor risicoprofilering. 

Het CRM roept gemeenten op tot samenwerking bij de inkoop van software en zo de mensenrechten bij de inzet van algoritmes beter te beschermen. Ook wil het college in overleg met softwareontwikkelaars.

Meer over

Kunstmatige intelligentie

Deel

    Inschrijven nieuwsbrief Computable

    Door te klikken op inschrijven geef je toestemming aan Jaarbeurs B.V. om je naam en e-mailadres te verwerken voor het verzenden van een of meer mailings namens Computable. Je kunt je toestemming te allen tijde intrekken via de af­meld­func­tie in de nieuwsbrief.
    Wil je weten hoe Jaarbeurs B.V. omgaat met jouw per­soons­ge­ge­vens? Klik dan hier voor ons privacy statement.

    Whitepapers

    Computable.nl

    Slimme connectiviteit: de toekomst van bouwen

    Hoe stoom jij jouw organisatie in de bouw en installatie sector klaar voor de digitale toekomst?

    Computable.nl

    Design Sprints: 4 dagen van idee naar prototype

    Hoe zet je in vier dagen tijd een gevalideerd prototype neer met Design Sprints?

    Computable.nl

    Dit is de weg naar informatietransformatie

    In een wereld waar data en informatie centraal staan, moeten organisaties zich aanpassen aan de digitale toekomst. Informatietransformatie is de sleutel tot het versterken van beveiliging en het bevorderen van efficiëntie.

    Meer lezen

    Responsible ai artificial intelligence kunstmatige intelligentie
    ActueelInnovatie & Transformatie

    Handreiking voorkomt discriminatie door algoritmen

    AchtergrondData & AI

    Noord-Holland maakt algoritmen openbaar

    AchtergrondInnovatie & Transformatie

    Toezicht op algoritmes moet snel beter

    OpinieInnovatie & Transformatie

    Overheid te kort door de bocht met inzet algoritmes

    ActueelData & AI

    Gemeenten gebruiken algoritmes voor risicoprofilering

    ActueelData & AI

    Rekenkamer: sluit discriminerende algoritmes uit

    Geef een reactie Reactie annuleren

    Je moet ingelogd zijn op om een reactie te plaatsen.

    Populaire berichten

    Meer artikelen

    Footer

    Direct naar

    • Carrièretests
    • Kennisbank
    • Planning
    • Computable Awards
    • Magazine
    • Abonneren Magazine
    • Cybersec e-Magazine

    Producten

    • Adverteren en meer…
    • Jouw Producten en Bedrijfsprofiel
    • Whitepapers & Leads
    • Vacatures & Employer Branding
    • Persberichten

    Contact

    • Colofon
    • Computable en de AVG
    • Service & contact
    • Inschrijven nieuwsbrief
    • Inlog

    Social

    • Facebook
    • X
    • LinkedIn
    • YouTube
    • Instagram
    © 2025 Jaarbeurs
    • Disclaimer
    • Gebruikersvoorwaarden
    • Privacy statement
    Computable.nl is een product van Jaarbeurs