Tweede Kamer: stop met discriminerend algoritme

Dit artikel delen:

Een ruime meerderheid van de Tweede Kamer keert zich tegen het gebruik van discriminerende algoritmes door de overheid. Dat bleek vannacht tijdens het marathondebat over de vrijgegeven geheime ministerraadnotulen over de toeslagenaffaire.

Bij de toeslagenaffaire werden tienduizenden mensen onterecht bestempeld als fraudeur. Ambtenaren vertrouwden jarenlang op computermodellen die burgers geautomatiseerd beoordeelden. Sommige algoritmes blijken echter gevoelig voor etnisch profilering, wat discriminatie in de hand werkt.

Eind aan racisme

Tijdens het plenaire debat in de Tweede Kamer naar aanleiding van de ministerraadnotulen over deze affaire, kwamen fractieleiders Jesse Klaver (GroenLinks) en Liliane Ploumen (PvdA) met een motie die oproept zo snel mogelijk te stoppen met de inzet van dergelijke discriminerende algoritmes en op die manier een einde te maken aan racisme door de overheid. Burgers mogen niet door de overheid met wantrouwen worden behandeld en er moet altijd oog zijn voor het voorkomen van schrijnende individuele effecten van wet- en regelgeving, schrijven ze.

De motie-Klaver/Ploumen kon rekenen op een ruime meerderheid van de Tweede Kamer. Alleen PVV, FvD en JA21 stemden tegen. De Tweede Kamer had al eerder zorgen geuit over discriminatie en vooringenomenheid bij de inzet van algoritmes.

Rekenkamer en AP

Dat de overheid discriminerende algoritmes inzet, was begin dit jaar ook de conclusie van de Algemene Rekenkamer. Die constateerde dat ambtenaren zich vaak achter computermodellen verschuilen en er te weinig op letten of de modellen discrimineren.

In de zomer van 2020 oordeelde bovendien de Autoriteit Persoonsgegevens (AP) dat de werkwijze van de Belastingdienst tussen 2014 en 2018 op bepaalde onderdelen discriminerend en in strijd met de wet was. Het ging daarbij om de verwerking van data door de afdeling Toeslagen.

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden
Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste ict-nieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in
Vacatures bij AP

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2021-04-30T11:37:00.000Z Diederik Toet
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.