EU wil kunstmatige intelligentie aan ketting leggen

Dit artikel delen:

De EU heeft regels voorgesteld die de basis moeten vormen van een nieuw wetgevend kader rond kunstmatige intelligentie (ai). Dat moet zowel burgers vertrouwen geven in ai, als de introductie en ontwikkeling stimuleren. Critici zijn niet onder de indruk.

‘Hoe hoger het risico, hoe strenger de regels.' Dat is volgens Eurocommissaris het uitgangspunt waarmee de EU de nieuwe regels heeft opgesteld. Daarbij zou bijvoorbeeld ai die de veiligheid of de grondrechten van de burgers bedreigt compleet verboden worden. Ook ai-systemen waarbij mensen een ‘sociale score’ krijgen (zoals ze in China worden gebruikt) kunnen niet door de beugel, net zoals systemen die gezichtsherkenning in openbare ruimten mogelijk maken. Dat laatste zal alleen kunnen in noodgevallen, bijvoorbeeld bij vermissingen.

Gevoelige ai-platformen, denk aan systemen die een kredietscore kunnen opstellen of die cv’s kunnen beoordelen, zullen aan heel wat voorwaarden moeten voldoen. Gebruikers moeten weten hoe ze precies werken en de data waarvan ze gebruikmaken, moet van hoge kwaliteit zijn, bijvoorbeeld om bias (vooringenomenheid) te voorkomen. Te allen tijde zullen ook mensen de systemen moeten overzien.

De nieuwe ai-wetten stuiten al meteen op kritiek. Zo zouden er te veel mazen in de wet zijn. Wat precies risicovolle toepassingen zijn en welke niet, is bijvoorbeeld niet duidelijk. Er is ook twijfel over het toezicht. De nationale autoriteiten zouden daarvoor verantwoordelijk worden en de Europese privacyregels hebben al aangetoond dat dat niet evident is. Velen vrezen ook dat de regels de jonge, Europese ai-industrie zal verhinderen om tot bloei te komen, zeker nu Europa nu al mijlenver achterloopt op de ontwikkelingen in de VS en China.

De regels moeten nog door het Parlement en de lidstaten goedgekeurd worden. Dat is een procedure die nog jaren kan aanslepen.

Gevolgen voor ai-ontwikkelaars

Computable publiceerde vorige week een artikel op basis van de concepttekst van de wetgeving die 21 april door de Europese Commissie is behandeld. Er komt een lijst met verboden toepassingen en veel nu al ingezette ai-oplossingen krijgen een hoog-risicoclassificering.

Omdat producten op tal van punten toetsing nodig hebben, zijn de gevolgen voor ontwikkelaars en gebruikers van ai-toepassingen groot, verwacht Bart Schermer, expert op het gebied van privacy- en ict-recht voor Considerati.


x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2021-04-23T09:32:00.000Z Frederic Petitjean