Bepaalde organisaties moeten zich nu al voorbereiden op de verplichte test die vanaf december 2027 geldt voordat ze ai-systemen met een hoog risico gaan gebruiken.
Hoewel deze deadline veraf lijkt, maant de Autoriteit Persoonsgegevens (AP) alvast te gaan oefenen met een zogenoemde grondrechten-effectbeoordeling (of FRIA). Dat is een test die uitwijst of het gebruikte ai-systeem de rechten en de privacy van mensen kan beschadigen. Door alvast ervaring op te doen, ontstaat beter inzicht in de ai-systemen die worden gebruikt en kunnen betrokkenen zich tijdig voorbereiden op de nieuwe verplichtingen.
De privacywaakhond richt zich met haar oproep tot overheden of bedrijven die publieke diensten leveren. Ze zijn straks tot zo’n test verplicht als een ai-systeem met een hoog risico in gebruik is, dan wel sprake is van een beoordelingssysteem voor financiële risico’s van mensen. Behalve overheden gaat het ook bedrijven aan in bijvoorbeeld het openbaar vervoer of de zorg.
Grondrechten
Doel is burgers te beschermen tegen de risico’s van ai waar de grondrechten van mensen in het geding zijn. Zoals het recht op gelijke behandeling, het recht op privacy en het recht op toegang tot essentiële voorzieningen (zoals energie, gezondheidszorg en huisvesting).
Steeds vaker nemen ai-systemen beslissingen die direct gevolgen hebben voor mensen. Bijvoorbeeld of zij een uitkering of verzekering krijgen, toegelaten worden tot een opleiding of uitgenodigd worden voor een sollicitatiegesprek. Terwijl een ai-systeem ook fouten kan maken of mensen ongelijk kan behandelen. Daarom gelden er vanaf december 2027 strenge regels voor ai.
Fundamental rights impact assessment
Een van die nieuwe regels uit de Europese AI-verordening is dat onder meer overheidsorganisaties die bepaalde ai-systemen met hoge risico’s willen gaan gebruiken, eerst goed moeten kijken wat de gevolgen kunnen zijn voor mensen. En wat zij daartegen kunnen doen. Vervolgens moeten zij hierover een rapportage aanleveren bij de toezichthouder, de Autoriteit Persoonsgegevens (AP). Zo’n beoordeling heet een ‘fundamental rights impact assessment’ (FRIA). Dit is een aanvulling op de DPIA (‘data protection impact assessment’).
De AP helpt met uitleg hierover. Bovendien start de AP een pilot. Deelnemers kunnen zo praktijkervaring opdoen met het Europese template voor de FRIA-rapportage. De AP geeft ook feedback op de aanpak. Aanmelden kan tot en met 21 september aanstaande.
De AP is beoogd toezichthouder op het merendeel van de hoogrisico-ai-systemen die onder de ai-verordening vallen.
