Branchevereniging Nederland ICT heeft een gedragscode voor kunstmatige intelligentie gepubliceerd. Het gaat om ethische richtlijnen voor de inzet van artificiële intelligentie (ai) die is opgesteld door een denktank van de brancheorganisatie. Volgens de samenstellers is de Nederlandse ict-sector de eerste in Europa met richtlijnen voor ethische omgang met ai.
De ai-gedragscode van Nederland ICT is 21 maart 2019, om 17.00 uur overhandigd aan staatssecretaris van Economische Zaken, Mona Keijzer. Dat gebeurt op de conferentie Nederland Digitaal door Peter Zijlema, directeur van IBM Benelux. Zijlema is ook portefeuillehouder ethiek binnen het bestuur van Nederland ICT en voorzitter van de Digitaal Ethische Raad. Dat is een klankbordgroep van de brancheorganisatie met experts binnen ethiek en digitalisering. Daarin zitten onder meer Peter Paul Verbeek (TU Twente), Jeroen van der Hoven (TU Delft), Paul van der Heijden (Clingendael) en Valerie Frissen (Universiteit Leiden).
De gedragscode is samengesteld op basis van ethische principes voor omgang met ai die zijn opgesteld door de Europese Commissie. Het gaat om acht punten (zie kader onderaan artikel) waaraan de bedrijven, die zich aansluiten bij de code, zich zeggen te houden. Het gaat onder meer over eigenaarschap van data, openheid over doelstellingen van de inzet van ai, transparantie in de gebruikte technologie en het delen van kennis over de leercurve van systemen.
‘Digitale bedrijven zijn al op allerlei manieren bezig met de ethische vraagstukken rond ai’, stelt Lotte de Bruijn, directeur van Nederland ICT. ‘We merken dat er behoefte is aan een gezamenlijke code. We willen bovendien dat die code ook in andere landen bruikbaar is, dus we hebben ons gebaseerd op Europese principes.’
Zijlema voegt toe: ‘Als ict-branche willen we een actieve deelnemer zijn in de discussie over ai en ethiek. We zien grote maatschappelijke en economische kansen bij het toepassen van ai, en we willen dat op een zorgvuldige en ethisch verantwoorde wijze doen.’ Hij stelt dat de ict-branche kan bijdragen door goed samen te werken, door het geven van educatie, maar ook door ‘zelfbewust en zuiver’ om te gaan met data en door het zeker stellen van voldoende transparantie en uitlegbaarheid van ai-toepassingen.
Niet bindend
De gedragscode is overigens niet bindend voor alle ruim zeshonderd leden van de branchevereniging. Nederland ICT laat het aan de bedrijven zelf over om beargumenteerd af te wijken van de code, vertelt een woordvoerder aan Computable. ‘Er wordt geen register bijgehouden van partijen die zich aan code committeren. Het gaat om een eerste stap. Het is aan de leden zelf om de gedragscode te adopteren en te omarmen’, meldt een woordvoerder.
De brancheorganisatie onderzoek in een volgende stap of het tools kan bieden om de code te implementeren en of er behoefte is om meer gewicht te geven aan de code en op welke manier dat dan moet gebeuren.
Voor het samenstellen van de code is bewust gebruik gemaakt van een brede definitie van het begrip ai en kunstmatige intelligentie. De denktank heeft ai geformuleerd als alles wat raakt aan zelflerende of zelfredenerende systemen. ‘Dat is bewust breed gehouden om de code breed toepasbaar te maken’, meldt de woordvoerder. In de gedragscode zelf is geen definitie van ai opgenomen.
SAP en IBM
Met de code volgt Nederland ICT de trend van grote bedrijven die steeds vaker zelf richtlijnen delen over de toepassing van ai. Eerder deelde onder andere SAP een code over ai en ethiek en startte het een externe raad die ai-toepassingen toetst. IBM maakt ai-beslissingen inzichtelijk in een open bron-tool die ‘afzwakkingen’ en ‘vooroordelen’ (‘mitigation’ en ‘bias’) van ai-systemen zichtbaar maakt en werkt met software en apparatuur van verschillende fabrikanten, waaronder Watson van IBM zelf, Tensorflow, SparkML, AWS Sagemaker en AzureML. Dat moet voorkomen dat ai een zwarte doos wordt waarvan niemand meer weet hoe het tot een besluit kwam.
8 punten AI-gedragscode Nederland ICT
Het lidbedrijf:
1. is zich bewust van, en anticipeert op, de invloed die implementatie van AI kan hebben op publieke waarden, zoals eerlijkheid, rechtvaardigheid en inclusiviteit, als ook de principes van uitlegbaarheid en gebruik van (en rechten op de) data.
2. maakt binnen de keten duidelijk wanneer een gebruiker van doen heeft met AI, alsook de verantwoordelijkheid die ieder draagt in de keten op de toepassing van AI.
3. is zich bewust van en transparant over de stand van de techniek ten aanzien van AI, de technische mogelijkheden maar ook de technische tekortkomingen van toepassingen, Voor de digitale economie 2 en de noodzaak om hierover te communiceren. Dit leidt tot (o.a.) het minimaliseren van ongewenste “bias” en de promotie van inclusieve representatie.
4. geeft inzicht in de data die gebruikt wordt door de AI toepassing, dan wel biedt mogelijkheid voor de ketenpartners om dat inzicht te verschaffen
5. zorgt voor de (technische) mogelijkheid om de adviezen of beslissingen van hun AIsystemen herleidbaar te maken voor alle direct betrokkenen.
6. zorgt ervoor dat het gedrag van de applicatie actief gemonitord kan worden en dat er altijd een feedback mogelijkheid voor gebruikers in AI applicaties kan zijn.
7. draagt bij aan het delen van kennis en het geven van educatie over AI in het algemeen, binnen en buiten de sector.
8. verschaft binnen de keten beschikbare informatie over:
• de systemen en het achterliggend gebruik van de data,
• de toegepaste technologie,
• de leercurve voor het systeem,
• Datagebruik buiten de EU.
