Op 2 februari 2025 is een belangrijk onderdeel van de Europese Ai-verordening (Ai Act) in werking getreden. Vanaf deze datum zijn ai-toepassingen verboden die als onaanvaardbaar risico worden beschouwd. Ook moeten organisaties meer aandacht besteden aan kennisdeling over ai-gebruik. De ‘verboden ai-praktijken’ in de EU op een rij.
- Manipulatieve of misleidende ai-systemen: Systemen die gebruikmaken van de kwetsbaarheden van mensen, zoals leeftijd of handicap, om hen te beïnvloeden;
- Ai-systemen die kwetsbare groepen uitbuiten: Toepassingen die specifiek zijn ontworpen om kwetsbare groepen te manipuleren of uit te buiten, zijn niet toegestaan;
- Social scoring: Systemen die individuen beoordelen op basis van hun sociale gedrag of persoonlijke kenmerken;
- Realtime biometrische identificatie in openbare ruimtes: Het gebruik van ai voor realtime-gezichtsherkenning in openbare ruimtes, behalve in specifieke gevallen zoals opsporing van vermiste personen of het voorkomen van ernstige bedreigingen;
- Emotieherkenning op de werkplek en in het onderwijs: Ofwel het inzetten van ai om emoties te detecteren in arbeids- of onderwijssituaties.
Organisaties die dergelijke systemen ontwikkelden of gebruikten moesten deze vóór 2 februari uit de handel nemen of het gebruik ervan staken. Bij niet-naleving riskeren zij aanzienlijke boetes, die kunnen oplopen tot 35 miljoen euro of zeven procent van de jaarlijkse omzet.
Ai-kennis vergroten
Naast het verbod op bepaalde ai-toepassingen, moeten organisaties er vanaf genoemde datum voor zorgen dat hun medewerkers over voldoende ai-kennis beschikken die past bij hun rol en de context waarin ai wordt gebruikt. ‘Vaak laten organisaties hun ai-geletterdheid alleen door specialisten verankeren, zoals datascientists. Maar omdat steeds meer werknemers ai gebruiken, is het cruciaal dat zij ook weten hoe ze ai effectief gebruiken en wat de risico’s zijn’, duidt Casper Rutjes, cto van data- en ai-consultant ADC.Het opbouwen van ai-geletterdheid is niet langer optioneel, waarschuwt hij. ‘Het is noodzakelijk om compliant en relevant te blijven.’
EU AI-verordening
De Europese AI-verordening wordt stapsgewijs ingevoerd. De volgende maanden zijn belangrijk:
- Augustus 2025: Toezichthouders op de naleving van de ai-verordening in Nederland moeten bekend zijn. Aangewezen toezichthouders krijgen de bevoegdheid om maatregelen te nemen en boetes op te leggen. Ook gaan de regels voor aanbieders van zogenoemde ai-modellen voor algemene doeleinden in;
- Augustus 2026: Start van het toezicht op de verplichtingen voor ai met een hoog risico en de transparantieverplichtingen voor bepaalde ai-systemen. Mensen moeten weten dat zij te maken hebben met een ai-systeem of door ai gegenereerde content;
- Augustus 2027: De verordening is volledig van kracht. Dit betekent dat alle regels en verplichtingen uit de verordening vanaf dat moment gelden.
Het is essentieel voor bedrijven en organisaties om tijdig te anticiperen op deze veranderingen en de nodige stappen te ondernemen om aan de nieuwe regelgeving te voldoen, benadrukt de Autoriteit Persoonsgegevens. Dat omvat het evalueren van huidige ai-systemen, het beëindigen van verboden toepassingen en het voorbereiden op toekomstige verplichtingen voor hoogrisico-ai-systemen.
