De overheid gaat meer doen om te voorkomen dat burgers in de problemen komen door verkeerd gebruikte algoritmen. Staatssecretaris Van Huffelen (Digitalisering) neemt daartoe maatregelen, zoals de aanstelling van een algoritme-toezichthouder, transparantie over het gebruik van algoritmen en de implementatie van effectieve Europese regelgeving. Dit blijkt uit brieven van de staatssecretaris aan de Tweede Kamer.
De staatssecretaris vindt dat burgers zelf regie moeten kunnen houden op hun digitale leven. Ook het vertrouwen in de digitale wereld is belangrijk. Van Huffelen wil daarom dat algoritmes die op de markt komen, de rechten van mensen respecteren. Dat geldt voor algoritmes van bedrijven, maar ook voor toepassingen door de overheid. De overheid heeft wat dat betreft een voorbeeldfunctie, schrijft ze.
‘De nadruk moet bij inzet van algoritmen niet alleen liggen op het bestraffen van mensen’, schrijf de bewindsvrouw. ‘Er zijn nu ook veel algoritmen die goede dingen doen. Juist nu mensen in financieel zwaar weer terechtkomen, wil ik dat de overheid algoritmen vooral inzet om mensen te helpen, bijvoorbeeld bij het gebruik van regelingen, zoals bij UWV en SVB.’
Mislopen van regelingen
De staatssecretaris denkt ook aan een algoritme dat mensen wijst op regelingen die ze mislopen, maar waarop ze wel recht hebben. Ze laat uitzoeken hoe zoiets zou kunnen werken. Verder reserveert Van Huffelen geld voor oplossingen om met data en algoritmen armoede en problematische schulden te bestrijden. ‘Algoritmen moeten alleen worden gebruikt wanneer het echt nodig is om de overheid goed te laten werken.’
Volgens de bewindspersoon moet de overheid zich baseren op heldere juridische eisen en ethische beginselen, die overal eenduidig worden toegepast.
Risicotoetsing
‘Er zijn nu bijvoorbeeld verschillende richtlijnen uitgebracht en methoden ontwikkeld om algoritmen op risico te toetsen, maar hier is meer stroomlijning en prioritering nodig. Dat moet resulteren in een implementatiekader voor de inzet van algoritmen.’ Daarnaast wil Van Huffelen in gesprek over inzet van algoritmen bij de overheid en kennis delen voor een goede implementatie.
‘Algoritmen moeten vooraf worden getoetst en gedurende het gebruik steeds weer worden onderzocht op datakwaliteit, proportionaliteit en mogelijke bias’, schrijft ze. ‘Het is met name van belang om ons in elk geval te richten op algoritmen met een hoog risico op het schenden van fundamentele rechten. Op deze algoritmen moet helder toezicht worden ingericht, vooraf, tijdens en na het gebruik. En de werking en inzet moeten transparant zijn, waarbij het duidelijk is waar burgers en bedrijven hun recht kunnen halen wanneer ze menen dat het algoritme onrechtmatig wordt ingezet.’
