Gemeenten en overheden nemen steeds vaker beslissingen over burgers op basis van ai-systemen. De uitkomsten van die systemen kunnen grote gevolgen hebben. Ghebreab wordt geroemd om zijn rol als neuro-informaticus, zijn hoogleraarschap aan de Universiteit van Amsterdam en zijn specialisme in ai. Met het Civic AI Lab wil hij de brug slaan tussen fundamenteel en toegepast onderzoek. In de huidige focus op ai ligt de nadruk vaak op de technische beloften van ai, waarbij betrokken programmeurs en ict’ers te weinig gefocust zijn op fundamentele mensenrechten en de sociale gevolgen van de uitkomsten van het systeem. Ook de herleidbaarheid van uitkomsten en bescherming van minderheden komen volgens de ai-specialist vaak op een tweede plaats.
In de huidige opkomst van ai-technologie is er vaak erg veel aandacht voor algoritmen en minder voor de gevolgen voor mensen. Het Civic AI Lab, een samenwerking tussen de gemeente Amsterdam, de Vrije Universiteit Amsterdam, en de Universiteit van Amsterdam moet daar verandering in brengen. Ghebreab gaat de komende vier jaar met vijf promovendi onderzoek doen. In de eerste serie onderzoeken van het lab starten de vijf onderzoekers aan studies naar de inzet van ai in de gemeente Amsterdam. Ze bestuderen toepassingen voor onderwijs, welzijn, milieu, mobiliteit en gezondheid. Het lab wordt ook ingericht als informatiepunt voor inwoners en bedrijven die vragen hebben over ai-toepassingen en de gevolgen ervan voor bijvoorbeeld ethiek, gelijkwaardigheid en mogelijke discriminatie van minderheden.
Computable.nl over Vrije Universiteit
Ai-studies bereiden vrij goed voor op baan
Waar kan je het beste informatica studeren?
‘Nieuw navigatiesysteem is nauwkeuriger dan gps’
Numerus fixus bij computerwetenschappelijke studies
VU opent archief voor duurzame softwareontwikkeling
Database-pionier Martin Kersten overleden
Pas op voor 'siliconisatie'
Gat in Digital Markets Act geeft Big Tech vrij spel
UWV stelt Commissie Data Ethiek in
Olympische Winterspelen: sportinnovatie én cybercrime