UvA-onderzoeker: ‘Ai moet eerlijker en inclusiever’

Wetenschapper Sennay Ghebreab wil een zogenoemd Civic AI Lab oprichten. Die onderzoeksgroep is een antwoord op bedrijven en organisaties die met hun artificiële intelligentie (ai)-toepassingen en algoritmes vaak onvoldoende rekening houden met fundamentele burgerrechten, stelt hij. Volgens de onderzoeker ligt in de huidige snelheid waarin ai zich ontwikkelt discriminatie op de loer.

In een interview met Computable vertelt Ghebreab hoe artificiële intelligentie (ai) anders moet worden ontwikkeld om te voorkomen dat algoritmen discrimineren.

Hij gaat in op de opkomst van ai waarbij steeds meer systemen en apparaten gebruik maken van algoritmes die min of meer zelfstandig beslissingen nemen. ‘Bedrijven en overheden nemen vaker beslissingen op basis van die rekenmodellen die ook steeds complexer worden’, stelt hij.

Door vanaf het begin rekening te houden met burgerrechten, zeer kritisch te zijn op de labels die aan data worden geplakt en door de inzet van inclusieve ontwikkelteams kan voorkomen worden dat ai-toepassingen ontstaan die bepaalde groepen uitsluiten.

Ghebreab: ‘Niet alleen maar programmeurs en ict’ers zullen deze algoritmes oppakken, aanpassen en inzetten, maar ook leken en digibeten. Aan de ene kant is dit goed, aan de andere kant brengt het ook risico’s met zich mee van oneigenlijk en oneerlijk gebruik van algoritmes. Een vraag die bijvoorbeeld gesteld moet worden is wat de consequentie voor wie is van een bepaalde methode op een bepaalde dataset. Het kritisch algoritmische denken ontbreekt vaak.’

AI moet anders

Lees hier het hele interview met Sennay Ghebreab. 

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Reacties

Ik zal er maar direct met gestrekt been in gaan, Sennay Ghebreab is een neuro-informaticus - een nietszeggende term - die een expertise heeft op het kruispunt van sociale inclusie en technologische innovatie. Voor de boeren uit de provincie, Sennay Ghebreab wil een exclusiviteit in de algoritmen inbouwen om de inclusiviteit te bevorderen wat gewoon discriminatie is. Een simpele onderzoek naar de belangenverstrengeling van UvA-onderzoeker maakt namelijk duidelijk dat de vooringenomenheid in onderzoeken er dubbel en dik bovenop ligt als ik kijk naar de nevenfuncties van hoofd sociale wetenschappen.

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2019-09-19T10:16:00.000Z Pim van der Beek
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.