Het centrale algoritmeregister dat de overheid woensdag lanceerde, bevat informatie over 109 artificiële intelligentie (ai)-systemen. Dat moeten er snel meer worden terwijl ook de kwaliteit van de verstrekte inlichtingen omhoog moet. Het register is een eerste versie waar nog het nodige aan valt te verbeteren. Ook is nog niet duidelijk voor welke algoritmes de aanmelding straks verplicht wordt.
Staatssecretaris Alexandra van Huffelen (Digitalisering) zei tijdens een persgesprek dat de verplichting vooral moet gaan gelden voor ai-systemen die een hoge impact op burgers hebben. Ook minder slimme systemen die veel invloed krijgen op mensen, moeten er onder vallen. Algoritmes met een hoog risico dienen in ieder geval in dit register te komen. Het gaat dan om gezondheids- en veiligheidsrisico’s, alsmede risico’s op het vlak van fundamentele rechten. Een precieze definitie van algoritmes is niet zo heel belangrijk.
De staatssecretaris van BZK ging ook in op de kritiek van Michiel Steltman, directeur Stichting DINL (Digitale Infrastructuur Nederland), die vindt dat een algoritmeregister weinig zin heeft zolang er geen normen, keurmerken en certificeringen voor ai-systemen zijn. Volgens Steltman roept zo’n register ‘zonder stelsel van zekerheid’ thans meer vragen op dan antwoorden. ‘Het leidt eerder tot meer wantrouwen.’ Maar Van Huffelen vindt het juist goed als zo’n register tot vragen leidt.
Wanneer allerlei non-gouvernementele organisaties zoals Bits of Freedom, Waag en Open State Foundation zien welke algoritmes de overheid gebruikt, bevordert dat volgens haar het maatschappelijk gesprek. ‘Die kunnen pas kwaliteit controleren als ze weten welke algoritmes worden gebruikt.’
Doorontwikkeling
Ron Roozendaal, directeur generaal Digitalisering bij Binnenlandse Zaken, noemde als voorbeeld een gemeente die op een eigen algoritme-register meldde dat ‘een algoritme in productie is, maar niet in gebruik.’ Zo’n inconsistentie leidt dan weer tot vragen. Kortom, het register is een nuttige instrument om discussies op gang te brengen.
Dankzij een centraal register kunnen burgers de overheid kritisch volgen en bevragen of zij zich aan de regels houdt. Het register kan ook bijdragen aan het beter uitlegbaar maken van de toepassing en uitkomst van algoritmes, schrijft Van Huffelen aan de Tweede Kamer.
Doorontwikkeling van het register is zeker nodig. De staatssecretaris verwacht dat de kwaliteit omhoog gaat als een wettelijke verplichting naderbij komt. Net als bij de lokale registers die een aantal gemeenten eerder hebben gelanceerd, valt momenteel soms nog weinig te lezen over de algoritmes zelf. Vaak wordt volstaan met een uitleg van wat bepaalde applicaties of diensten doen. En dat levert weinig inzicht in de impact van algoritmes.
