Grondrechten in geding door algoritme-technologieën

Grondrechten kunnen vergaand en op diverse manieren worden aangetast als gevolg van het gebruik van door algoritme-gedreven technologieën als big data, kunstmatige intelligentie (artificial intelligence, ai) en internet of things (IoT). Dit blijkt uit het onderzoeksrapport ‘Algoritmes en grondrechten’ van Universiteit Utrecht in opdracht van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties.

Bij algoritmes gaat het om een vooraf bepaalde logica om berekeningen te kunnen uitvoeren. Het onderzoeksrapport beschrijft per technologische toepassing hoe deze werkt en in hoeverre de werking van de toepassing mogelijk effect heeft op privacyrechten, gelijkheidsrechten, vrijheidsrechten en procedurele rechten. Zeker gezien de grote rol die de drie innovatieve technologieën in het huidige digitale tijdperk spelen en het dagelijks leven van bedrijven, overheden en mensen steeds meer gaan beïnvloeden.

Zo is bijvoorbeeld de Belastingdienst binnen de overheid koploper in het gebruik van big data-technieken, waarbij de dienst data-analyses maakt om fraude te bestrijden en controles uitvoert om zo onder meer illegale onvolkomenheden in belastingaangiften te voorspellen. Wat betreft IoT worden steeds meer huishoudelijke apparaten, tv’s en camera’s verbonden met het internet. Ze verworden tot slimme apparaten die zelfstandig onderling informatie uitdelen en op bewoners reageren. Bij ai-toepassingen draait het om het uitvoeren van complexe taken zónder menselijke controle of begeleiding. Hier is het zelflerend algoritme zelfs in staat in grote hoeveelheden patronen, verbanden en kenmerken te herkennen.

Samenspel van grondrechten

Welke grondrechten het sterkst worden aangetast als gevolg van big data, ai en IoT is volgens het onderzoeksrapport lastig te bepalen, aangezien de technologieën zich constant ontwikkelen. Het zou dan ook meer gaan om een samenspel van grondrechten met op de achtergrond de toenemende rol van algoritmes in verschillende maatschappelijke domeinen. Volgens de onderzoekers is het dan ook raadzaam grondrechtenschendingen te voorkomen en rechtsherstel te bieden in gevallen waar schendingen zich alsnog voordoen.

Minister Ollongren van Binnenlandse Zaken en Koninkrijksrelaties laat de Tweede Kamer weten na de zomer een inhoudelijke reactie te geven op de bevindingen en aanbevelingen van het onderzoek.