‘Hoe goed je algoritme ook is, staar je nooit blind op data’

Maarten Sukel, ai-lead cto gemeente Amsterdam

Dit artikel delen:

Maarten Sukel, ai-lead cto gemeente Amsterdam. Foto: Daan Muller

Als specialist in kunstmatige intelligentie zit Maarten Sukel op de algoritmische kant van stedelijke vraagstukken. Op het congres Overheid 360° geeft hij een presentatie over hoe kunstmatige intelligentie door gemeentes verantwoord kan worden ingezet voor een schone stad met een efficiënte en eerlijke dienstverlening. Het overzien van alle ethische implicaties is een duivels dilemma. ‘Wat wij doen kan zomaar ten koste gaan van mensen. Dat willen we echt voorkomen.’

Keynote Overheid 360°

Maarten Sukel spreekt tijdens Overheid 360° over hoe ai Amsterdam leefbaar houdt. Bekijk het volledige programma en registreer je gratis voor dit congres, dat op 12, 13 en 14 oktober 2021 online plaatsvindt:

https://www.overheid360.nl/

Maarten Sukel is gefascineerd door nieuwe intelligentie en de ongekende kracht van de algoritmes. Niet om mensen nóg meer te laten kopen en nóg verder te laten reizen. Nee, voor ‘iets constructiefs’. Schonere steden, minder bureaucratie, een mooiere wereld, dat wil toch iedereen? Het zou de focus moeten zijn van elke datascientist, vindt Sukel. ‘Nu gebruiken de knapste koppen van deze planeet hun kennis om zoveel mogelijk mensen op een advertentie te laten klikken. Dat is wat mij betreft niet de manier waarop dit vakgebied gebruikt moet worden.’

Afvalverwerking

"25.000 foto’s leren het algoritme wat het verschil is tussen een vuilniszak en een kartonnen doos"

Vier jaar geleden, tijdens zijn bacheloropleiding aan de Universiteit van Amsterdam (UvA), kwam Sukel binnen bij de gemeente Amsterdam. Jarenlang werkte hij in zijn eentje, want kunstmatige intelligentie was nog niet echt doorgedrongen tot het gemeentehuis. Inmiddels heeft hij een tiental computerwetenschappers om zich heen. Samen jagen ze innovatie na en proberen ze de kloof te overbruggen tussen ambtenarij en techniek. Daar is een wereld te winnen. Neem afvalverwerking, een primaire taak van gemeentes. Vroeger reed de vuilniswagen door de stad en ruimde het afval op, maar de burger werd mondiger en afvalstromen veranderden. Het werd, kortom, tijd voor kunstmatige intelligentie.

Wat kan kunstmatige intelligentie betekenen voor afvalverwerking?
‘Zeker in deze tijd vraagt afvalverwerking veel aandacht. Enerzijds omdat er te weinig vuilnismannen zijn om het afval op te halen, anderzijds omdat mensen meer thuis zijn gaan werken en nog meer online bestellen. Dat leidt tot meer kartonafval. Daar komt bij dat burgers contact willen kunnen opnemen als er iets aan de hand is. Ze willen hun verhaal kwijt. Karton op straat? Een matras dat rondslingert? Dat moet gemeld kunnen worden. Deze twee ontwikkelingen hebben we bij elkaar gebracht met kunstmatige intelligentie. Door het analyseren van afbeeldingen en tekst kunnen we een melding sneller oppakken en beter voorspellen waar de problemen ontstaan. Die ontwikkeling is snel gegaan. Op dit moment kunnen we al realtime analyseren en bijsturen. En degene die de melding heeft gedaan, hoeven we niet meer lastig te vallen met irritant jargon over zwerfafval, bedrijfsafval of grofvuil. Onze technologie maakt het proces efficiënter en vermindert de bureaucratie.’

Hoe hebben jullie de algoritmes voor afvalverwerking getraind?
‘Om deze modellen te maken, hadden we heel veel foto’s nodig van steden, en vooral van troep in steden. We hebben 25.000 foto’s bekeken om het algoritme te leren wat het verschil is tussen een vuilniszak en een kartonnen doos. Ik kan geen afval meer zien.’

Zijn er genoeg jonge mensen die dit vak willen leren?
‘Qua werving en selectie hebben we niet te klagen, we hebben genoeg goede kandidaten. Ze kunnen ook in de financiële wereld aan de slag of bij grote reisorganisaties. Maar ze weten ons te vinden, ik denk omdat we zo intensief samenwerken met universiteiten, stageplekken aanbieden en een ecosysteem hebben ingericht voor jonge developers. Elk jaar hebben we rond de dertig afstudeerders, die we uitnodigen om te publiceren over hun opdrachten en pijnpunten. We willen zo transparant mogelijk zijn over wat we doen. Blijkbaar is dat aantrekkelijk voor jonge mensen.’

Privacy

Beeldherkenning schurkt aan tegen privacy. Hoe blijf je weg van persoonsgegevens?
‘We focussen op constructieve oplossingen waarvan we zeker weten dat we de burgers ermee helpen en niet benadelen. De bijvangst proberen we al in het begin, bij het ontwerp van het model, te minimaliseren. We bouwen het model zo dat de data later niet ook gebruikt kunnen worden om personen te vinden. Bij de scans van de stad kijken we eerst of er kentekens of personen op staan. Die maken we zwart want die hebben we niet nodig. Daarna pas slaan we het op om er algoritmes van te maken.’

Voeren jullie veel discussies over privacy?
‘Zeker. We discussiëren iedere dag over het voorkomen van negatieve effecten van kunstmatige intelligentie. Het is ook een flinke klus om dit allemaal zo te krijgen dat het aan de wet- en regelgeving voldoet. Dan bedoel ik bijvoorbeeld het met een camera door de straat rijden. Als je een camera ophangt, moet je die registreren en het doel aangeven. Voor de wet is dat voldoende. Maar als je rond gaat rijden met een camera, en je meldt dat een keer, dan blijkt dat er nog niet zulke duidelijke regels zijn. Dat is spannend. We hebben veel specialisten nodig om alle ethische implicaties van ons werk te overzien. Het doet iets met het gedrag van mensen als ze weten dat de overheid burgers filmt. Dat kan kwalijke effecten hebben, ook al zeg je dat het voor afvalverwerking is.’

Menselijke maat

"Meldingen van burgers helpen om negatieve effecten te voorkomen"

Burgers worden bekeken en maken zich zorgen.
Ik vind het goed dat mensen zich hier zorgen over maken. Kijk, we willen efficiency, maar we willen voorkomen dat we de verkeerde dingen efficiënter maken. Dat hebben we gezien bij SyRI, het omstreden fraude-opsporingssysteem van de overheid. SyRI bleek in strijd met het Europees Verdrag voor de Rechten van de Mens (EVRM). Kunstmatige intelligentie kan zomaar de menselijke maat missen en doorslaan. Kijk bijvoorbeeld naar fraude en het type auto dat in een wijk staat. Stel: in Nieuw-West zien we, in verhouding tot het gemiddelde inkomen van de wijk, opvallend veel dure Tesla’s staan. Waar een algoritme in zo’n geval geen rekening mee zou houden, is dat het waarschijnlijk allemaal geleasede Tesla’s zijn van taxichauffeurs die bij Schiphol werken. Hoe goed je algoritme ook is, staar je nooit blind op data. Blijf de kleine nuances zien die invloed kunnen hebben op het leven van mensen. Zorg voor de menselijke maat, anders werk je maatschappelijke onbalans in de hand. Neem de politie. Als die vaker mensen met een donkere huidskleur gaat controleren, zal blijken dat zij vaker overtredingen begaan en dat komt omdat ze vaker worden gecontroleerd. Algoritmes kunnen dezelfde fouten maken.’

Wat bedoel je met ‘de menselijke maat’? Heb je een voorbeeld?
‘De meeste meldingen die bij ons binnenkomen, zijn in het Nederlands en gaan over afval. Soms komt er een Engelstalige melding binnen over iets wat minder vaak voorkomt maar wel belangrijk is, bijvoorbeeld overlast in de straat. Engelse meldingen zitten sowieso al minder vaak in de database. En overlast ook. Het algoritme herkent zo’n belangrijke melding niet goed en daar moeten we iets mee. Als we ook maar even de indruk hebben dat het over mensen gaat, dan laten we er een medewerker naar kijken. Zo vangen we randgevallen af. Overheidssystemen zijn soms net als auto’s; ze worden gebouwd voor de gemiddelde 80 procent. Zeker als je gaat automatiseren, loop je de kans dat je de onderste en bovenste 10 procent over het hoofd ziet en mensen gaat buitensluiten. Daar moeten we een goede balans in vinden.’

Transparant zijn

Nederland wil geen surveillance-maatschappij worden zoals China. Hoe bewaak je als stad de vrijheid van de burger en de ethische normen die wij belangrijk vinden?
De gemeente Amsterdam heeft besloten dat burgers zich veilig door de stad moeten kunnen bewegen zonder dat ze zich bespied voelen. Door transparant te zijn over beeldherkenning en kunstmatige intelligentie, en er kennis over te delen, kunnen we het samen vormgeven op een manier die we in Europa wenselijk vinden. Daarom hebben we het Algoritme Register ontwikkeld, een overzicht van de algoritmes die de gemeente Amsterdam gebruikt voor haar dienstverlening. Hoe gebruiken we ze? En waarom? Dat doen we juist om feedback van de burgers te krijgen. We zijn blij met meldingen die ons laten zien waar we rekening mee moeten houden om negatieve effecten te voorkomen.’

Het FD had onlangs het bericht ‘Gemeentes moedigen burgers aan om over elkaar te klikken’. Wat denk je als je zo’n bericht leest?
Ik ben dan benieuwd wat erachter zit. Gaat het om een online-formuliertje? Of is het een systeem dat wordt gekoppeld aan iemands financiële gegevens? Vaak kom je er jaren later pas achter hoe het echt zat. Daarom is transparantie in een vroeg stadium voor ons zo belangrijk. We willen liever vooraf open en transparant zijn over wat we doen, dan achteraf met een WOB-verzoek geconfronteerd worden.’

Eén ai-team

"Een algoritme dat eerlijk kijkt, gaat voor meer gelijkheid zorgen"

Wisselen jullie ervaringen uit met andere steden?
‘Kleinere gemeentes beschikken vaak niet over een ai-team. We werken vooral samen met Rotterdam, Den Haag en Utrecht. Met z’n allen bouwen we aan een beeldherkenningssysteem. Het liefst zou ik wereldwijd één ai-team hebben maar dat is politiek lastig.’

Is dat zo? Hoe groter het project, hoe makkelijker het politiek geregeld kan worden, zo lijkt het soms.
Nou, als je in Amsterdam iets voor elkaar wilt krijgen, moet je al rekening houden met verschillende beleidsterreinen. Voor digitalisering, voor privacy, voor afvalverwerking. Haal je er een andere stad bij, dan krijg je alle meningen van die stad er ook bij. Je zult een gemene deler moeten vinden.’

Jullie gebruiken ook de 3D-puntenwolk. Hoe werkt die techniek?
‘Neem de hoogte van de stoeprand en de vraag of je daar met een rolstoel overheen kunt. Met een 3D-puntenwolk kunnen we voor de hele stad uitrekenen welke oversteekplaatsen geschikt zijn voor rolstoelgebruikers, en welke niet. De puntenwolk gaan we nu ook gebruiken om zo’n 140.000 Amsterdamse lantaarnpalen in kaart te brengen. Inderdaad, een soort digital twin. Dat is ook handig voor aannemers. Als wij straks een opdracht geven aan een bouwbedrijf, en we weten waar de lantaarnpalen staan, dan is dat heel efficiënt. Dat systeem testen we nu in Weesp. De resultaten willen we straks delen met andere steden.’

Met deze projecten krijgen jullie een enorme berg data binnen. Wie gaat de data beheren?
In Amsterdam hebben we ervoor gekozen om alle data die we over de stad verzamelen zelf te gaan beheren. Wat we willen is dat de data zoveel mogelijk beschikbaar is voor alle Amsterdammers. We kunnen het beheer bij marktpartijen neerleggen, maar dan komt de data op zoveel verschillende plekken terecht dat het onoverzichtelijk wordt. Ik vind dat beheer bij de overheid hoort. Mijn oproep zou zijn: investeer erin. En wees niet te zuinig met het aannemen van mensen want dit is de toekomst.’

Uiteindelijk worden de burgers daar beter van?
Ik hoop dat mensen blij worden van ons werk omdat de dienstverlening beter en eenvoudiger wordt. Ik denk ook dat kunstmatige intelligentie de gelijkheid vergroot als je het goed aanpakt. Als de burger op de oude manier een aanvraag deed, was het toch een beetje de vraag welke ambtenaar ernaar keek en of die zijn dag wel had. Een algoritme dat er eerlijk naar kijkt, gaat voor meer gelijkheid zorgen.’

(Dit artikel verscheen eerder in Computable 04/2021.)

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Reacties

Mooi grootstedelijk verhaal over AI maar we kennen in de provincie ook verschillende afvalstromen waardoor elke tuin - niet de Amsterdamse postzegel van een bloembak met stadse pretenties - een milieustraat is door de vele containers. De circulaire economie is namelijk interessant omdat een kilo oud papier €0,03 opbrengt en een kilo lood zelfs €3 zodat gemeentelijke taak een winstgevend bedrijf is. En toen ik voor vereniging op de vuilniswagen reed voor inzamelen van oud papier in Boerenkoolstronkeradeel leverde het jaarlijks tussen de €5000 en €7000 op. Irritante jargon vertaald naar een business model want er zit een heel waardecreatiemodel achter de afvalstromen, naast circulaire herwinning van grondstoffen levert het namelijk ook energie door vergisting en verbranding. Het tuinieren doen we met John Deere en dat is dan ook de enige Engelse naam want de tomaten laten we plukken door Polen.

De grote gemeentelijke (ver)deler is dan ook diversiteit want het kleinstedelijke verhaal kent een andere agenda waarin het aannemen van mensen niet voorkomt, participatie is het toverwoord omdat met name in de krimpgemeenten de druk op de begroting toeneemt. Ik ken de boekhouding van Amsterdam niet maar bezuinigen door (nog) meer te belasten maakt het wonen onbetaalbaar en ik denk dat dit de komende gemeenteraadsverkiezingen weleens prominent op de politieke agenda kan komen te staan. De digitale projecten die niet direct bijdragen aan de efficiëntie zullen door de gemeenteraad al snel als megalomaan beoordeeld worden.

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden
Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste ict-nieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2021-10-07T11:55:00.000Z Ton Verheijen
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.