Wat zijn de criteria voor betrouwbare ai? In het boek ‘AI met Beleid’ schetst jurist, ondernemer en filosoof Charlotte Meindersma zeven criteria voor betrouwbare ai die kunnen helpen bij het opstellen van ai-beleid. Ze doet dat aan de hand van ethische richtsnoeren van de Europese Commissie.
De Europese Commissie (EC) heeft ingezet op betrouwbare ai. Samen met een deskundigengroep hebben ze ethische richtsnoeren voor betrouwbare kunstmatige intelligentie opgesteld, deelt Meindersma in haar boek. Ze schrijft: ‘Dit heeft juridisch niet specifiek waarde, maar je kunt het goed gebruiken bij het overwegen hoe je ai wilt gebruiken. Het kan je helpen bij het opstellen van een ai-beleid.’
Volgens de richtsnoeren is betrouwbare ai: (1) ‘Rechtmatig’, oftewel het voldoet aan alle toepasselijke wet- en regelgeving. (2) ‘Ethisch’, dus ai die met respect voor normen en waarden gebruikt en ontwikkeld wordt. En (3) ‘robuust’. Dat betekent dat het zowel vanuit technisch oogpunt solide is én rekening houdt met de sociale omgeving waarin de ai-toepassing wordt gebruikt, somt Meindersma op.
Hier volgt een samenvatting van de zeven criteria die volgens haar helpen om ai betrouwbaar te ontwikkelen en in te zetten.
#1 Invloed en toezicht door mensen
Ai‑systemen kunnen mensen helpen om beter geïnformeerde keuzes te maken en hun grondrechten te beschermen. Maar, er moet altijd een vorm van menselijk toezicht en controle zijn. Dat kan met menselijke bevestiging (human in the loop), menselijke supervisie (human on the loop) of menselijke controle (human in command).
#2 Technische weerstand en veiligheid
Ai‑systemen moeten simpelweg doen wat ze beloven: betrouwbaar werken en dezelfde uitkomst geven onder dezelfde omstandigheden (reproduceerbaar zijn). Daarnaast hoort er een stevig vangnet te zijn om schade, ook als die per ongeluk ontstaat, zo klein mogelijk te houden en het liefst helemaal te voorkomen.
#3 Privacy en gegevensbeheer
Privacy moet goed beschermd zijn. Ook gegevensbeheer moet op orde zijn. Denk aan zorg voor datakwaliteit, integriteit en duidelijke, geoorloofde toegang tot gegevens.
#4 Transparantie
AI‑modellen moeten helder (transparant) zijn over hoe ze werken. Traceerbaarheid helpt daarbij. Besluiten van een systeem moeten begrijpelijk uitgelegd worden aan de mensen die ermee te maken hebben. Gebruikers moeten weten dat ze met ai ‘praten’ en weten wat het systeem wel en niet kan.
#5 Diversiteit, non-discriminatie en billijkheid
Oneerlijke vooroordelen (bias) moet zoveel mogelijk worden voorkomen, omdat het kwetsbare groepen kan benadelen en discriminatie kan versterken. Ai moet voor iedereen toegankelijk zijn, ook voor mensen met een beperking. Belanghebbenden moeten gedurende de hele ai-levenscyclus worden betrokken.
#6 Maatschappelijk en ecologisch welzijn
Ai‑systemen moeten iedereen vooruithelpen, ook de generaties na ons. Ze horen duurzaam en milieubewust te zijn, rekening te houden met natuur en leefomgeving en goed na te denken over hun sociale impact.
#7 Verantwoording
Ai‑systemen moeten duidelijk maken wie verantwoordelijk is voor wat. Ze moeten controleerbaar zijn, zodat keuzes, data en ontwerp te beoordelen zijn. Vooral bij kritieke toepassingen moeten mensen toegang hebben tot goede, begrijpelijke rechtsmiddelen.
Bekijk ook de Assessment List for Trustworthy Artificial Intelligence (ALTAI) waarmee je kunt beoordelen of het ai-gebruik binnen jouw organisatie voldoet aan de richtsnoeren van de Europese Commissie.
Grip krijgen op verantwoorde ai
Het boek ‘AI met beleid – Praktisch sturen op wetgeving ethiek en draagvlak’ (Van Duuren Media, ISBN 978-94-6356-453-3, 160 pagina’s, prijs € 29,99) van Charlotte Meindersma moet organisaties helpen om verantwoord ai te gebruiken zonder te verdwalen in de vele regels en wetten rondom ai. De jurist, ondernemer en filosoof ziet dat de vraag wat wél en níet verantwoord is steeds urgenter worden nu de inzet van ai binnen organisaties sterkt toeneemt. Ze deelt in haar boek een praktische, juridisch houdbare en ethisch verantwoorde aanpak voor ai‑beleid.
Het boek biedt herkenbare praktijkvoorbeelden en concrete afwegingen en tips waarmee organisaties meteen aan de slag kunnen. Daardoor is het volgens de auteur niet alleen relevant voor juristen en compliance-professionals, maar ook voor bestuurders, managers, beleidsmakers en adviseurs die ai willen organiseren zonder te verdrinken in abstracte regels. Het boek moet hen helpen bij het ‘praktisch sturen op wetgeving, ethiek en draagvlak.’
Ze deelt bijvoorbeeld informatie over gemakzucht en de gevaren van ai. Ook gaat ze in op de kern van de ai-verordening en schetst hoe deze wet uitwerkt op gebieden zoals de AVG (Algemene Verordening Gegevensbescherming), digitale soevereiniteit, intellectueel eigendom en de Digital Services Act (DSA). Lezers leren onder meer hoe ze ai-doelstellingen bepalen en waar betrouwbare ai aan moet voldoen. Ook de vraag welke data gebruikt mogen worden, komt voorbij. Ze adviseert daarnaast in welke gevallen een impact-assessment nodig is. Dat gebeurt allemaal in een toegankelijk geschreven boek, zodat de lezer zelf geen wollige wetsteksten hoeft uit te pluizen.
Jurist, ondernemer en filosoof Charlotte Meindersma is specialist op het snijvlak van recht, technologie en ondernemerschap. Zij adviseert organisaties over over privacy, intellectueel eigendom, ai en wetgeving over digitalisering. Zie ook haar website charlotteslaw.nl.
