Bestaande systemen voor artificial intelligence (ai) zijn uitgezonderd van de nieuwe ai-verordening waar de EU aan werkt. De wettelijke eisen zullen alleen van toepassing zijn als die systemen beduidend worden aangepast. Ontwikkelaars van ai-producten kunnen immers niet voorzien welke regels straks van toepassing zijn voor hun producten.
Dit blijkt uit antwoorden die staatssecretaris Alexandra van Huffelen (Digitalisering) heeft gegeven op Kamervragen. Als de ai-verordening met terugwerkende kracht zou gelden, dan remt dat de ontwikkeling.
Overigens verwacht het kabinet niet dat veel ai-systemen hierdoor ‘buiten schot blijven’. Voorzien wordt dat van veel ai die gebruikt gaat worden voor hoog-risicotoepassingen, regelmatig nieuwe versies met significante aanpassingen uitkomen. En dan gelden de regels weer wel.
Belangrijk ook is dat de verordening terugwerkende kracht krijgt voor ‘verboden ai’. Zo mogen overheden straks geen sociale ratingsystemen toepassen die discriminerend werken of andere onevenredig nadelige gevolgen hebben. Ook is transparantie geboden hoe ratings tot stand komen. Burgers moeten ook in beroep kunnen gaan. Uit den boze zijn systemen die burgers beoordelen op basis van data uit hele verschillende omgevingen die niet met elkaar zijn verbonden, maar wel grote nadelige consequenties kunnen hebben.
Overtredingen
Uitgesloten zijn Chinese toestanden waarbij burgers die bijvoorbeeld hun plastic afval in een groene container stoppen of andere kleine overtredingen begaan, niet meer voor een paspoort in aanmerking komen. Wel toegestaan is het geven van scores aan Uber-taxichauffeurs en andersom hun klanten. Want die contexten hangen met elkaar samen. Maar anders wordt het als de klant de Uber-chauffeur een score toebedeelt en de klant vervolgens een hogere of lagere premie moet betalen voor de zorgverzekering.
De ai-verordening van de EU, waarvan een nul-versie gereed is, kent gedetailleerde regels. Tegelijk wordt binnen de Raad van Europa, die 46 lidstaten telt en waaronder ook niet-EU-landen, onderhandeld over het ai-verdrag. De bepalingen van het verdrag richten zich op de landen zelf. Die moeten verplicht regels uitwerken om mensenrechten, de democratie en rechtsstaat te beschermen bij ai-systemen. Per land zal de wetgever de bepalingen in nationale wetgeving moeten omzetten.
Maar elk land kan dat verschillend uitwerken. De EU-lidstaten zullen voornamelijk met eerdergenoemde ai-verordening invulling geven aan dit verdrag. Alleen ai-systemen die aan de eisen van de verordening voldoen, kunnen binnen de EU op de markt worden gebracht.
In discussie
Tussen de komende EU AI-verordening en het AI-verdrag waar de Raad van Europa aan werkt, bestaat een grote overlap. Alles moet goed op elkaar zijn afgestemd. Belangrijk is dat de Raad van Europa en de EU tot definities komen die op elkaar aansluiten. Van Huffelen acht het onwenselijk als onder het ene kader systemen wel als ai worden aangemerkt en onder het andere kader niet. De Raad worstelt nog met de definitie van ai-systemen. Zo’n definitie moet niet alleen duidelijk maar ook technologieneutraal en toekomstbestendig zijn. Generatieve ai zoals ChatGPT zou in beide kaders onder de definitie van ai vallen. Het huidige conceptverdrag kent nog geen specifieke bepalingen over generatieve ai-systemen. Maar de mensenrechten zoals privacy moeten wel zijn beschermd. Ook in EU-verband zijn deze systemen nog in discussie.
Overigens zijn ook enkele landen die geen lid van de Raad zijn, bij het ontwerp van de verdragsregels betrokken. Canada, de VS, Japan en Israël doen als ‘observer states’ actief mee aan de onderhandelingen. Het definitieve verdrag zou eind dit jaar gereed moeten zijn. Wereldwijd werken ruim 60 landen aan ai-regelgeving.
