De Europese Commissie heeft richtlijnen opgesteld voor de ontwikkeling en implementatie van ethiek in artificiële intelligentie (ai). Doel is om het vertrouwen in ai te vergroten en publieke en private investeringen in het volgende decennium toe te laten nemen tot ten minste twintig miljard elk jaar.
De commissie werkt via een driestappenplan. Allereerst heeft ze de de ai-richtlijnen opgesteld, gevolgd door een pilotfase waarbij stakeholders feedback kunnen geven. Vervolgens moet een en ander leiden tot een ‘internationale consensus’ waarin kunstmatige intelligentie functioneert binnen een menselijk kader. De EU-richtlijnen zijn overigens afkomstig van onafhankelijke experts die in juni 2018 zijn aangesteld.
Rol Nederland ICT/IBM
Op 21 maart jl heeft Peter Zijlema, portefeuillehouder ethiek binnen het bestuur van Nederland ICT en algemeen directeur IBM Benelux, al een Nederlandse ethische code voor ai overhandigd aan staatssecretaris van Economische Zaken Mona Keijzer. IBM is naar eigen zeggen één van de weinige bedrijven die een integrale rol heeft gespeeld bij het vormgeven van de EU-richtlijnen. Hun wereldwijde ethisch ai-specialiste, Francesca Rossi, was volgens de onderneming nauw betrokken bij de ontwikkeling ervan. IBM onderschrijft dan ook de richtlijnen.
In een reactie stelt Martin Jetter, verantwoordelijk voor IBM Europa, dat de richtlijnen veel principes bevatten die IBM al langere tijd centraal stelt binnen zijn ai-beleid. ‘We willen een belangrijke rol blijven spelen in de expertgroep en we denken dat deze richtlijnen een voorbeeld zijn voor andere niet-EU-landen.’ Eerder deelde onder andere SAP een code over ai en ethiek en startte het een externe raad die ai-toepassingen toetst.
Pilot-fase en stap naar wereldtoneel
In de zomer van 2019 start de commissie de pilot-fase met verschillende stakeholders. Nu al kunnen bedrijven, overheden en organisaties zich inschrijven voor de ai-alliantie van de EU en een melding krijgen wanneer de pilot start. Leden van de bovengenoemde expertgroep zullen in deze periode ook helpen met het presenteren en toelichten van de richtlijnen aan relevante stakeholders in de verschillende lidstaten.
De Europese Commissie wil de ethische ai-richtlijnen vervolgens naar het wereldtoneel verplaatsen, want ‘technologie, data en algoritmes kennen geen grenzen.’ Daarom wil ze samenwerken met partners als Japan, Canada en Singapore en een actieve rol spelen in internationale discussies en initiatieven als de G7 en de G20. Binnen de pilot-fase zullen ook bedrijven uit niet-EU-landen betrokken worden.
De zeven ai-richtlijnen van de EU
- Menselijk toezicht: ai-systemen moeten het mogelijk maken dat de mens de regie houdt en de rechten van de mens ondersteunt. Ze mag niet de menselijke autonomie ondermijnen;
- Robuust en veilig: ai vraagt om veilige, betrouwbare en robuuste algoritmes die om kunnen gaan met de fouten binnen ai-systemen;
- Privacy en databeleid: burgers moeten volledige controle hebben over hun eigen data, terwijl data over hen niet gebruikt mag worden om hen schade te berokken of te discrimineren;
- Transparantie: ai-systemen moeten traceerbaar zijn;
- Diversiteit en eerlijkheid: ai-systemen moeten alle menselijke vaardigheden meenemen en toegang verzekeren voor iedereen;
- Maatschappij en milieu centraal: ai-systemen moeten positieve sociale veranderingen mogelijk maken en duurzaamheid hoog in het vaandel dragen;
- Verantwoordelijkheid: mechanismes moeten ingebouwd worden om entiteiten verantwoordelijk te maken voor (de uitkomsten van) ai-systemen.
“De EU-richtlijnen zijn overigens afkomstig van onafhankelijke experts”
Dan lees ik IBM en SAP . . .
Waarom krijg ik grote twijfel als ik “EU en onafhankelijk” hoor. Zou dat door die 30.000 lobbyisten op 750 parlementarier komen?
Deze richtlijnen zijn er puur voor de bühne. Want sinds wanneer trekken organisaties als Rabobank, ING, Facebook, Google zich iets aan van regels. Ze krijgen torenhoge boetes, beloven beterschap maar gaan gewoon weer door waarmee ze bezig waren.
Wat dat betreft is de inzet van AI te verleidelijk om er moreel slechte dingen mee te doen maar tegelijkertijd ontzettend veel mee te verdienen. Kijk bijv. maar naar de game industrie waar AI wordt ingezet om de gamers te verleiden om langer te spelen en meer aan micro transacties uit te geven.
Het is wel grappig eigenlijk, er worden precies zeven issues genoemd die de meeste bezwaren tegen AI beschrijven.
Beste experts uit Brussel.. dat is wat AI is.
Je kunt ook wel veiligheidseisen voor een bom definieren, maar veilig zullen die dingen daar niet door worden.
Gewoon niet aan beginnen help wel.