Tweede Kamer: stop met discriminerend algoritme

Dit artikel delen:

Een ruime meerderheid van de Tweede Kamer keert zich tegen het gebruik van discriminerende algoritmes door de overheid. Dat bleek vannacht tijdens het marathondebat over de vrijgegeven geheime ministerraadnotulen over de toeslagenaffaire.

Bij de toeslagenaffaire werden tienduizenden mensen onterecht bestempeld als fraudeur. Ambtenaren vertrouwden jarenlang op computermodellen die burgers geautomatiseerd beoordeelden. Sommige algoritmes blijken echter gevoelig voor etnisch profilering, wat discriminatie in de hand werkt.

Eind aan racisme

Tijdens het plenaire debat in de Tweede Kamer naar aanleiding van de ministerraadnotulen over deze affaire, kwamen fractieleiders Jesse Klaver (GroenLinks) en Liliane Ploumen (PvdA) met een motie die oproept zo snel mogelijk te stoppen met de inzet van dergelijke discriminerende algoritmes en op die manier een einde te maken aan racisme door de overheid. Burgers mogen niet door de overheid met wantrouwen worden behandeld en er moet altijd oog zijn voor het voorkomen van schrijnende individuele effecten van wet- en regelgeving, schrijven ze.

De motie-Klaver/Ploumen kon rekenen op een ruime meerderheid van de Tweede Kamer. Alleen PVV, FvD en JA21 stemden tegen. De Tweede Kamer had al eerder zorgen geuit over discriminatie en vooringenomenheid bij de inzet van algoritmes.

Rekenkamer en AP

Dat de overheid discriminerende algoritmes inzet, was begin dit jaar ook de conclusie van de Algemene Rekenkamer. Die constateerde dat ambtenaren zich vaak achter computermodellen verschuilen en er te weinig op letten of de modellen discrimineren.

In de zomer van 2020 oordeelde bovendien de Autoriteit Persoonsgegevens (AP) dat de werkwijze van de Belastingdienst tussen 2014 en 2018 op bepaalde onderdelen discriminerend en in strijd met de wet was. Het ging daarbij om de verwerking van data door de afdeling Toeslagen.

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste ict-nieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2021-04-30T11:37:00.000Z Diederik Toet


Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.