De rijksoverheid heeft een lijst van ongeoorloofde toepassingen van kunstmatige intelligentie gepubliceerd. Het gaat om praktijken die vanaf komend jaar worden verboden naar aanleiding van de Europese ai-verordening die begin augustus in werking trad.
De verordening moet ervoor zorgen dat alleen betrouwbare artificiële intelligentie (ai) wordt ontwikkeld die in lijn is met Europese publieke waarden en grondrechten. De regels worden in fasen ingevoerd, uitgesmeerd over de komende zes jaar. Zowel het bedrijfsleven als de publieke sector moet eraan voldoen.
Om organisaties op weg te helpen, geeft de overheid een overzicht van verboden ai-praktijken. Organisaties hebben een halfjaar de tijd om verboden ai-praktijken te stoppen. Doen ze dit niet op tijd, dan riskeren ze een boete.
1: Manipulatieve of misleidende ai-systemen: technieken die mensen kunnen beïnvloeden in hun keuzes. Zoals geluids- en beeldfragmenten die je niet bewust kunt waarnemen;
2: Ai-systemen voor ‘social scoring’: technieken die mensen beoordelen op basis van hun sociale gedrag of persoonlijke kenmerken. Met zulke systemen liggen discriminatie en uitsluiting op de loer;
3: Voorspelde risicobeoordeling voor criminaliteit: systemen die op basis van profilering of persoonskenmerken strafbare feiten voorspellen, zijn verboden;
4: Biometrische categorisering: technieken die personen op basis van biometrische gegevens categoriseren om zo bijvoorbeeld ras, politieke opvatting, religieuze overtuiging of seksuele gerichtheid proberen af te leiden. Zulke systemen schenden de privacy en grondrechten;
5: Biometrische identificatie op afstand in realtime in openbare ruimten: deze techniek is verboden tenzij nodig voor specifieke situaties, zoals speuren naar ontvoerden en het opsporen van verdachten. En dan alleen met een wettelijke grondslag.
Bron: Digitale Overheid
