Het normalisatie-instituut NEN heeft het Platform Artificial Intelligence opgericht. Deelnemers daaraan hebben geen directe invloed op de internationale standaarden, maar kunnen wel input leveren via de normcommissie AI & Big Data. Als klankbordgroep worden de leden periodiek om advies gevraagd over de standaarden.
Het platform komt twee keer per jaar al dan niet live samen. Deelnemers worden dan op de hoogte gesteld van actuele ontwikkelingen. Te denken valt aan nieuwe standaarden die in voorbereiding zijn, alsmede voorstellen van de normcommissie. Aan de orde kunnen ook allerlei relevante initiatieven komen. Aandacht zal er ook zijn voor nieuwe wet- en regelgeving zowel in Nederland als in Europa.
Het startschot voor het NEN Platform AI werd onlangs tijdens een webinar over artificiële intelligentie gegeven. NEN organiseerde dit in samenwerking met Stichting Toekomstbeeld der Techniek (STT). Yvette Mulder, consultant ict-standaardisering, lichtte tijdens het webinar toe hoe ethische afwegingen aan bod komen in de internationale standaarden. Het NEN Platform AI zal bij deze standaarden zijn betrokken.
Robuuster en ethisch
De ontwikkelingen op gebied van ai en big data gaan snel. Daarom is het belangrijk afspraken te maken over de toepassingen in dit domein. Mulder: ‘Het doel hiervan is dat ai en big data veiliger, betrouwbaarder, robuuster en ethisch worden. Tevens moet de marktacceptatie van ai groter worden.’ In de markt bestaat bezorgdheid over hoe de maatschappij er over een paar jaar uit gaat zien. Niemand wil dat robots gaan discrimineren of dat zelfrijdende auto’s mensen aanrijden. Burgers willen kunnen begrijpen hoe een machine tot beslissingen komt. Probleem is dat de werking van algoritmes lastig valt te begrijpen. Volgens het NEN willen gebruikers en klanten er zeker van zijn dat een ai-toepassing doet wat het moet doen en dat het geen gevaar oplevert.
Programmeurs, bedrijven, consultants, beleidsmakers en onderzoekers hebben daarom belang bij standaarden voor ai. Aan de hand van normen kunnen zij laten zien hoe betrouwbaar de toepassingen zijn. De afspraken zijn een middel om te zorgen dat ai-toepassingen veilig en wenselijk zijn voor mens, maatschappij én business. Geprobeerd wordt één lijn te brengen in het doorvoeren, toetsen en aantonen van de betrouwbaarheid, ethiek en juridische vraagstukken rondom ai-toepassingen en big data. Daarom is ISO gestart met de wereldwijde standaardisatie.
Nederland wil hier ook invloed op uitoefenen. Om die reden is hiervoor onlangs een normcommissie opgericht. Er zijn tal van onderwerpen waarvoor ai-normen moeten komen. Intelligente systemen komen tot zelfstandige beslissingen en acties. Het is de vraag wie aansprakelijk is wanneer ongewenste effecten om de hoek komen te kijken. Bots acteren op incomplete ‘big data’. Hoe toets je of datasets goed zijn en blijven?
Tijdens het webinar lanceerde NEN, STT en Hogeschool Utrecht een ethisch ontwerpspel. Deze interactieve gesprekstool vertaalt abstracte waarden naar concrete toepassingen. Het spel helpt consensus te bereiken bij complexe vraagstukken.
Verder presenteerde Rudy van Belkom, projectleider toekomstverkenning AI bij STT, de resultaten van een studie naar ethische afwegingen voor ai. Hij ging in op de appathon die het ministerie van Volksgezondheid onlangs organiseerde. Na afloop was er veel kritiek. ‘Ethisch onverantwoord,’ zo luidde het eindoordeel. Van Belkom betoogde dat de echte kritiek niet in de appathon zelf zit, maar in de wijze waarop we met z’n allen ethiek bedrijven. Volgens hem ligt de eindverantwoordelijkheid onterecht bij de programmeurs. Hij vindt dat we minder energie moeten steken in het opstellen van ethische richtlijnen. Beter is het systemen te bouwen die in de context ethisch verantwoorde beslissingen kunnen nemen. Naast programmeurs en ethici, moeten ook sociologen, psychologen, biologen en economen hieraan mee werken. Ethiek is bij uitstek een ontwerpvraagstuk, aldus Van Belkom.
