De overheid moet toezien op de gevolgen van de inzet van algoritmes door het Rijk en gemeenten. Tweede Kamerlid Kees Verhoeven pleit daarom voor een waakhond. Deze controleert of de overheidssystemen die algoritmes gebruiken, niet discrimineren door onterechte uitsluiting van mensen.
Overheidsinstanties maken onder meer gebruik van algoritmes bij de opsporing van fraudeurs. Volgens het Kamerlid ligt daarbij discriminatie op de loer. Bijvoorbeeld doordat sommige groepen mensen meer controles krijgen op basis van dubieuze criteria, zoals huidskleur, inkomen of geslacht.
‘Wetten worden verdreven door algoritmes. Om dit te voorkomen, moeten de toezichthouders bedrijven goed kunnen controleren. Kunstmatige intelligentie mag niet leiden tot oneerlijke situaties, machtsmisbruik of belemmering van innovatie’, schrijft Verhoeven in zijn actieplan.
Waarschuwing
Begin september waarschuwde de Raad van State de regering voor het toenemend gebruik van algoritmes bij de besluitvorming door de overheid. Dat dit volautomatisch en dus zonder menselijke tussenkomst gebeurt, maakt het voor burgers onmogelijk om na te gaan welke regels de overheid toepast en welke gegevens voor een besluit zijn gebruikt.
Het voorstel van D66 reikt verder dan enkel de algoritme-waakhond. De politieke partij wil 25 miljoen euro investeren in innovatie op het gebied van kunstmatig intelligentie. Startups die toegang krijgen tot de SBIR-subsidieregeling (Small Business Innovation Research) en grotere bedrijven die subsidies krijgen bij het aangaan van privaat-publieke samenwerkingsverbanden (de PPS-toeslag) en bij innovatie in het mkb van het topsectorenbeleid (de MIT-subsidie).
De Autoriteit Persoonsgegevens is de instantie waar D66 de waakhond zou willen onderbrengen.
Het algoritme is eerlijk.
De kernvragen zijn: hoe is het algoritme tot stand gekomen? Wie heeft het algoritme ontworpen? Is het een lerend algoritme en op basis van welke input leert het dan?
De vraag wie het algoritme heeft ontworpen icm met welke input gebruikt wordt, geeft een deel van het antwoord waar we naar zoeken.
AP is al veel langer onderbezet en kan dit dus er helemaal niet nog eens bij gaan doen.
Als de overheid dit soort algoritmes wil gaan gebruiken zullen ze die gewoon ter inzag van iedereen moeten kunnen geven zodat experts (burgers) dit kunnen controleren. Dat is minder slecht dat een papieren tijger met een bijna burn-out.
D66 begint steeds meer op de democratische (waak)hond te lijken die achter zijn eigen staart aanrent. Zo schaffen ze dus eerst het referendum af om daarna met voorstellen voor referenda te komen. Ook het voorstel van een waakhond voor algoritmen is als het paard achter de wagen spannen omdat er een WOB regeling bestaat waarmee de overheid gecontroleerd kan worden, punt is dat de wil om openheid te geven op politiek niveau vaak ontbreekt. In 2013 was al lang bekend dat de fraude door de Bulgaren nog maar het topje van de ijsberg was. Maar ja, de discriminerende conclusies uit algoritmen komt D66 niet goed uit waardoor de Polen nog jaren door konden gaan met fraude.
Wetten worden niet verdreven door algoritmen alleen de uitvoering en controle ervan wordt steeds meer ingevuld met kunstmatige intelligentie. Dat de overheid steeds vaker gegevens gebruikt die ze niet (meer) mogen bezitten is wel een punt van zorg. De burger wordt gecriminaliseerd als gegevens uit hun oorsponkelijk context gehaald worden, de onthutsende constatering over datamanagement na de affaire met het bonnetje van Teeven maakt duidelijk dat de digitale duurzaamheid bij 75% van de overheid ernstig tekort schiet.
Bij klassiek expertsystemen is nog wel na te gaan hoe een beslissing tot stand is gekomen. Voor een neuraal netwerk bestaat er echter geen programma of algoritme dat kan worden nagegaan.
De autoriteit persoonsgegevens is een instantie die zich sterk maakt voor de bescherming van persoonsgegevens en niets te maken heeft met het tegengaan van discriminatie.
Mocht er in de toekomst ooit een kwaardaardig AI programma bestaan, dan is het waarschijnlijk afkomstig uit ons overheidsdomein waar men de grip op IT langzaam aan het kwijtraken is.
Kees Verhoeven is één van de weinige kamerleden die weet waar hij over praat als het over ICT gaat. Voorstellen van hem lees ik daarom altijd met interesse.
Ik snap de zorgen van Kees maar deel ze slechts gedeeltelijk.
Beleid maak je met mensen, zonder algoritmes met verborgen startwaarden (“vooroordelen”).
Op andere vlakken, zoals bijvoorbeeld criminaliteitsbestrijding, kunnen slimme algoritmes wel het verschil maken. Als uit analyses blijkt dat bepaalde criminaliteit vaker voorkomt in bepaalde kringen (bepaalde afkomst, regio, sociale status, …), dan ga je daarop focussen. Ewoud noemde de fraudezaken al die geregeld het nieuws halen.
Als bijvoorbeeld bekend is dat de meeste drugslabs op het Brabantse platteland staan, dan ga je daar grootscheepse invallen doen met je opsporingsteams. Met de zelfde hoeveelheid mensen invallen doen in Groningen en Friesland is dan verspilling van belastinggeld en capaciteit bij justitie, die toch al te beperkt is.