De ethiek rond kunstmatige intelligentie (artificial intelligence, ai) staat in de EU volop in de belangstelling. Ook de discussie over maatschappelijke vraagstukken en beleidsopties woedt in alle hevigheid. Op veel terreinen zijn regels nodig. Een openbare raadpleging over het witboek over kunstmatige intelligentie, gepubliceerd door de Europese Commissie, leverde ruim 1200 reacties op. Ook Nederlandse ontwikkelaars, bedrijven, overheden, (bedrijfs)organisaties, academici en burgers waren van de partij.
De overgrote meerderheid vindt dat Europa een ecosysteem moet bouwen dat excellent is op ai-gebied. Het belangrijkste is voldoende vaardigheden te ontwikkelen alsmede onderzoeksinstellingen en communities te ondersteunen die de innovatie bevorderen. Ook moeten de EU-lidstaten heel gecoördineerd te werk gaan. 87 procent is die mening toegedaan.
Digitale Innovatiehubs
Bijna driekwart van de respondenten vindt dat publieke-private partnerschappen en de publieke sector (erg) belangrijk zijn voor de verdere opkomst van ai in Europa. 69 procent vindt dat het midden- en kleinbedrijf (mkb) extra aandacht verdient. De adoptie van ai door het mkb kan het beste worden gestimuleerd door de oprichting van Digitale Innovatiehubs (DIH’s). 78 procent ziet voor die hubs een (zeer) belangrijke rol weggelegd bij de overdracht van kennis naar mkb-bedrijven en de ondersteuning van ai-expertise. Deze hubs kunnen ook de toegang tot test- en referentiefaciliteiten vergroten. Ook kunnen ze mkb-bedrijven stimuleren tot samenwerkingsverbanden met grotere ondernemingen en de academische wereld.
Breed wordt de noodzaak tot regelgeving onderschreven. 90 procent maakt zich zorgen over de mogelijkheid dat ai de grondrechten van burgers schendt. 87 procent is bang dat het gebruik van ai tot bias (vooroordelen) leidt en bepaalde groepen achterstelt. Veel mensen vrezen ook dat ai de veiligheid in gevaar brengt of dat acties worden ondernomen die achteraf niet verklaarbaar zijn.
Verplichte eisen
Om die zorgen weg te nemen wil 42 procent een geheel nieuw regelgevend raamwerk voor ai. Nog eens 33 procent acht het voldoende om de huidige wetgeving aan te passen. Slechts 3 procent denkt dat de huidige wetgeving volledig toereikend is. De meeste respondenten scharen zich achter de verplichte eisen die in het witboek worden voorgesteld. Er moeten heldere regels komen voor de aansprakelijkheid en veiligheid.
Informatie dient beschikbaar te zijn over de aard en het doel van het ai-systeem, de robuustheid en nauwkeurigheid van ai-systemen. De mens moet altijd het overzicht houden. Ook moeten eisen worden gesteld aan de kwaliteit van de datasets waarmee de systemen worden getraind en het bijhouden van archieven en gegevens.
Verdeeldheid alom
De respondenten zijn verdeeld over de scope van nieuwe wetgeving. 42 procent vindt dat nieuwe verplichtingen alleen betrekking moeten hebben op ai-applicaties met een hoog risico. 31 procent betwijfelt of zo’n beperking zin heeft. Nogal wat mensen zijn in verwarring over de betekenis van een hoog risico.
Veel discussie is er over het publieke gebruik van biometrische identificatiesystemen die op afstand werken. 28 procent wil een algemeen verbod op deze technologie in openbare ruimten. 29 procent wenst een specifieke EU-richtlijn of wetgeving voordat zulke systemen publiekelijk worden toegepast. 15 procent tolereert dit soort gebruik alleen in bepaalde gevallen en onder zekere omstandigheden. Slechts 6 procent denkt dat geen verdere richtlijnen of regels nodig zijn. Ai, het internet of things en robotica hebben ook implicaties voor de veiligheid en aansprakelijkheid. 61 procent wil een herziening van de bestaande richtlijn voor productaansprakelijkheid als het gaat om bepaalde ai-toepassingen.
