CBS en Amsterdam bestrijden oneerlijk algoritme

Dit artikel delen:
cybersecurity

Het Centraal Bureau voor de Statistiek (CBS) heeft voor de gemeente Amsterdam een methode ontwikkeld om oneerlijke algoritmes tegen te gaan in de praktijk. Deze zogeheten FairTrade-methode spoort op wanneer etniciteit of andere gevoelige persoonsgegevens invloed hebben bij de besluitvorming van algoritmes. Bijvoorbeeld bij Nederlanders die, al dan niet onterecht, bijstand ontvangen. Dat meldt het CBS.

De methode is ontwikkeld door student Rik Helwegen van de Universiteit van Amsterdam (UvA). Hij ontwikkelde de methode in het kader van zijn masteropleiding Kunstmatige Intelligentie.

‘Steeds meer gemeenten experimenteren met een data gedreven-aanpak en zetten hiervoor algoritmen in die gebruik maken van machine learning. Wanneer etniciteit of andere gevoelige achtergrondkenmerken van personen de beslissingen van gemeenten beïnvloeden, kan dat ethische of wettelijke bezwaren opleveren’, legt Helwegen uit aan het CBS.

Daarom ontwikkelde hij een praktische methode waarbij algoritmen 'een eerlijk antwoord op complexe vragen geven’. Hierbij maakt hij gebruik van de causaliteitstheorie. ‘De methode corrigeert aan de hand van schattingen causale verbanden, die voortkomen uit de combinatie van data en domeinkennis. Het uitgangspunt is dat de uitkomst van het model hetzelfde moet zijn als de waarde van een gevoelig persoonskenmerk wordt omgewisseld, bijvoorbeeld een niet-westerse achtergrond voor een westerse achtergrond.'

Bijstand

Het FairTrade-methode is in een experimentele setting ontwikkeld en vervolgens getest in samenwerking met de gemeente Amsterdam. Het model is ingezet in het sociaal domein bij zo’n 11.000 profielen van Nederlanders die bijstand ontvangen of in het verleden veroordeeld zijn omdat zij onterecht een uitkering kregen. Voor het experiment kreeg Helwegen toegang tot het Stelsel van Sociale Bestanden van het CBS. De overheidsinstelling benadrukt dat hierbij voldaan werd aan de gestelde privacy-voorwaarden.

De gemeente Amsterdam vertelt dat er drie redenen zijn om het CBS in te schakelen voor dit project. Allereerst heeft het CBS de methodologische kennis en ervaring. Daarnaast beschikt het CBS over een zwaar beveiligde werkomgeving en geanonimiseerde data. 'Verder willen we dat hetgeen wij open source maken ook toegepast kan worden in andere gemeenten. Het CBS kan daaraan een bijdrage leveren', licht de gemeente toe.

Rik Helwegen verdedigde zijn onderzoek ‘Fairness in Machine Learning models using Causality’ op 2 augustus 2019 aan de Universiteit van Amsterdam (UvA). Hij deed dit onderzoek in het kader van zijn masteropleiding Kunstmatige Intelligentie.
x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Reacties

Interessante Case denk ik.
Wat is fairness. Stel dat vrouwen tussen de 20 en 25 bepaalde dingen significant meer doen dan andere leeftijden dan mag je daar op selecteren.
Stel dat [bepaalde afkomst] tussen de 20 en 25 ze bepaalde dingen significant meer doen dan andere leeftijden dan mag je daar niet op selecteren?

"Het uitgangspunt is dat de uitkomst van het model hetzelfde moet zijn als de waarde van een gevoelig persoonskenmerk wordt omgewisseld, bijvoorbeeld een niet-westerse achtergrond voor een westerse achtergrond."

Gegeven een algoritme dat is bedoeld en getraind op een domein dat bestaat uit responses van mensen met een overwegend westerse achtergrond (stel 90% westers). Dan moet zo'n algoritme dus worden herzien middels een domein waarin westers/niet westerse respondenten gelijk zijn (50%/50%), ook als dat niet de werkelijkheid reflecteert.

Wat is de voorspellende waarde van een algoritme getraind op een domein dat niet de werkelijkheid reflecteert?

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2019-08-08T11:08:00.000Z Suzanne Martens
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.