De gemeente Amsterdam beschikt sinds 10 december 2020 over een Civic AI Lab. Dat is een groep onderzoekers die kunstmatige intelligentie (ai)-technologieën ontwikkelt voor bijvoorbeeld onderwijs, welzijn en de mobiliteit van inwoners. Bij die ontwikkeling van ai-modellen is specifiek aandacht voor non-discriminatie en gelijke behandeling. Initiatiefnemer Sennay Ghebreab is de wetenschappelijk directeur van het Civic AI Lab geworden. Voor de algemene jury van de Computable Awards 2021 reden om Sennay Ghebreab te nomineren in de categorie CxO.
Gemeenten en overheden nemen steeds vaker beslissingen over burgers op basis van ai-systemen. De uitkomsten van die systemen kunnen grote gevolgen hebben. Ghebreab wordt geroemd om zijn rol als neuro-informaticus, zijn hoogleraarschap aan de Universiteit van Amsterdam en zijn specialisme in ai. Met het Civic AI Lab wil hij de brug slaan tussen fundamenteel en toegepast onderzoek. In de huidige focus op ai ligt de nadruk vaak op de technische beloften van ai, waarbij betrokken programmeurs en ict’ers te weinig gefocust zijn op fundamentele mensenrechten en de sociale gevolgen van de uitkomsten van het systeem. Ook de herleidbaarheid van uitkomsten en bescherming van minderheden komen volgens de ai-specialist vaak op een tweede plaats.
In de huidige opkomst van ai-technologie is er vaak erg veel aandacht voor algoritmen en minder voor de gevolgen voor mensen. Het Civic AI Lab, een samenwerking tussen de gemeente Amsterdam, de Vrije Universiteit Amsterdam, en de Universiteit van Amsterdam moet daar verandering in brengen. Ghebreab gaat de komende vier jaar met vijf promovendi onderzoek doen. In de eerste serie onderzoeken van het lab starten de vijf onderzoekers aan studies naar de inzet van ai in de gemeente Amsterdam. Ze bestuderen toepassingen voor onderwijs, welzijn, milieu, mobiliteit en gezondheid. Het lab wordt ook ingericht als informatiepunt voor inwoners en bedrijven die vragen hebben over ai-toepassingen en de gevolgen ervan voor bijvoorbeeld ethiek, gelijkwaardigheid en mogelijke discriminatie van minderheden.
