Staatssecretaris Keijzer (Economische Zaken en Klimaat), minister Grapperhaus (Justitie en Veiligheid), minister Dekker (voor Rechtsbescherming) en staatssecretaris Knops (Binnenlandse Zaken en Koninkrijksrelaties) zetten vraagtekens bij het streven van de Europese Commissie naar twee met artificiële intelligentie (ai) behepte ecosystemen.
De Europese Commissie werkt allereerst aan een zogenaamd ecosysteem van excellentie ter ondersteuning van de ontwikkeling en acceptatie van ai in de EU. Onderdeel hiervan is een onderzoeks-, onderwijs- en investeringsagenda. Een tweede ecosysteem moet fungeren als een regelgevend raamwerk voor betrouwbare ai dat burgers beschermt en bijdraagt aan een sterke Europese data-economie.
De Nederlandse politici stellen nu dat de ecosystemen juist in zeer nauw verband met elkaar staan, en niet goed zonder elkaar kunnen. Het ecosysteem van excellentie creëert voorwaarden voor een groeiende interne markt met economische kansen en voorspoed waarvan alle burgers en bedrijven kunnen profiteren. Het ecosysteem van vertrouwen creëert vervolgens de randvoorwaarden waarbinnen de interne markt inclusief toepassingen gebaseerd op ai ook kan groeien.
Welke sectoren zijn hoog-risico?
Keijzer, Grapperhaus, Dekker en Knops stellen verder dat het op dit moment nog onduidelijk is op basis van welke criteria de hoogrisicosectoren en toepassingen worden vastgesteld wat betreft ai. Volgens de Europese Commissie wordt een ai-toepassing als ‘hoog risico’ beschouwd indien de ai-toepassing wordt ingezet in een sector waar, gegeven het karakter van de activiteiten, significante risico’s zich kunnen voordoen. Er moet nog een specifieke en limitatieve lijst komen van sectoren die periodiek wordt herzien in samenhang met ontwikkelingen in de praktijk. Daarnaast moet de ai-toepassingen in deze sectoren worden ingezet op een manier die tot significante risico’s kan leiden.
Nederland heeft twijfels over deze ‘sectoraanpak’. De afbakening van sectoren is volgens onze politici lastig uit te voeren. Dit omdat ai-toepassingen in branches die buiten de definitie vallen toch risico’s met zich mee kunnen dragen. Ook kunnen bedrijven met creatieve oplossingen komen om buiten de hoog-risico-sector te vallen, met alle mogelijke gevolgen van dien. Ons land pleit daarom voor een risicobenadering met een set algemene wettelijke vereisten die voor alle hoogrisicotoepassingen kunnen gelden. Per hoogrisicosector zijn eventueel aanvullende eisen op te stellen passend voor de hoogrisicotoepassingen binnen die sector.
Nederland stelt zes voorwaarden aan ai-ecosysteem
Europese waarden en normen waarborgen, passende normering, aandacht voor wetgeving, internationale regelgeving, aandacht voor de ai-levenscyclus en vertrouwen winnen van burgers. Deze zes voorwaarden stelt Nederland aan een Europees ai-ecosysteem.
De schrijvers van het rapport stellen allereerst dat het essentieel is om de Europese waarden en normen te waarborgen. Als er wordt overwogen om hiervoor additioneel wetgevend instrument in het leven te roepen, is het volgens hen een absolute prioriteit om de consistentie met bestaande wettelijke kaders, zowel Europees als internationaal te waarborgen en duidelijk te maken hoe deze kaders zich tot elkaar zullen verhouden, waarbij de nationale competenties zoals deze gelden voor nationale veiligheid worden gerespecteerd. Ook het aansluiten bij bestaande wettelijke kaders noemen zij van groot belang. Als voorbeeld hiervan noemen ze aansluiting bij de AVG. Wat betreft normering, stellen de politici dat Nederland pleit voor een normering waarbij aan een bestaand instrumentarium aanpassingen worden gedaan, in relatie tot ai. Op deze manier wil de overheid voorkomen dat ai-toepassingen worden overgereguleerd.
Vitale infrastructuur
Ten derde benadrukken de schrijvers dat er uitdrukkelijk aandacht moet zijn voor de vitale infrastructuur, nationale veiligheid, cybersecurity en de bijzondere positie van de rechtshandhaving. Ook bij dit punt benadrukken de politici dat het essentieel is dat het specifieke gegevensbeschermingsregime voor de uitvoering van de handhavings- en opsporingstaken van de rechtshandhaving, openbaar ministerie en overige opsporingsinstanties, en de wettelijke taken van de inlichtingen- en veiligheidsdiensten, van toepassing blijft. Ten vierde pleit Nederland ervoor dat de commissie het voortouw neemt in het aanpassen van internationale regelgeving of van bilaterale overeenkomsten tussen de EU met derde landen die met ai te maken hebben.
Ai-levenscyclus en vertrouwen van burgers
Ten vijfde acht Nederland het wenselijk om bij nadere uitwerking van het ecosysteem-instrument voort te bouwen op de zogenaamde ai-levenscyclus. Dit betekent dat onder andere de vereisten en het toezicht ten aanzien van ai worden vastgesteld voor de afzonderlijke fasen waarin ai wordt gehanteerd. De politici benadrukken dat het verdergaat dan het bewaren van algoritmes. Het betreft het kunnen reconstrueren van algoritmegebruik in zijn context. Dit verschaft alle betrokken actoren meer helderheid met welke regels zij in de diverse stadia van ai te maken hebben, aldus de schrijvers. Tot slot wil Nederland aangeven dat, indien er gewerkt moet worden aan het vertrouwen en het van dienst zijn van burgers, dan zou hier ook een rol weggelegd kunnen zijn voor lokale en regionale overheden.
