De angst dat robots ons werk gaan overnemen, steekt in sommige sectoren de kop op. En dat is niet onterecht. Wat je niet moet vergeten, is dat het vaak om werkzaamheden gaat die handmatig en repetitief zijn. Die kun je beter aan slimme software overlaten, zodat je de toch al schaarse medewerkers kunt inzetten op taken die meer waarde toevoegen.
Er blijkt echter een grens te zijn aan het ongebreideld ontginnen van data, alleen omdat het kan. Je zult als organisatie doel en middelen goed in het oog moeten houden, zoals de gerechtelijke uitspraak over een fraudeopsporingssysteem aantoont.
Begin februari kreeg de Nederlandse overheid een gevoelige tik op de vingers van de rechter. Het fraudeopsporingssysteem Syri (Systeem Risico Indicatie) is in strijd met het Europees Verdrag voor de Rechten van de Mens. Een aantal organisaties, verenigd in de coalitie Bij Voorbaat Verdacht, had een zaak aangespannen. Een van hun grootste bezwaren is dat de overheid zonder enige aanleiding en verdenking vooraf gaat zoeken in de gegevens van mensen in een bepaalde wijk. Je bent als burger dus weerloos en inderdaad bij voorbaat verdacht.
Met Syri is een grote hoeveelheid data van alle burgers in een bepaalde wijk te analyseren. Algoritmes berekenen bij wie een groot risico bestaat op het plegen van fraude met onder meer sociale voorzieningen. Komt er dan een vinkje achter je naam, dan kunnen Belastingdienst en UWV nader onderzoek instellen. Het risicomodel kan in de huidige vorm onbedoelde stigmatiserende en discriminerende effecten hebben, zo tekende Nu.nl op uit de mond van de rechter.
Schrijver en filosoof Maxim Februari, ook onderdeel van de coalitie, verwoordde het treffend: ‘Op het moment dat je aan de slag wil gaan met nieuwe technologie, moet je heel erg letten op de rechtsbescherming van burgers. In het vervolg zal het parlement hier veel dieper over moeten nadenken.’
Maatschappelijk belang
Voorstanders van dit systeem wijzen erop dat er een groot maatschappelijk belang is bij het opsporen van fraude. De overheid beschikt over zo veel data – en die hoeveelheden nemen alleen maar toe – dat het ondoenlijk is geworden handmatig onderzoek te doen. Je zult slimme algoritmen nodig hebben om tot een goede analyse te komen. Vervolgens kun je veel gerichter onderzoek doen. Dat machines het overnemen van de mens hoeft dus zeker niet altijd als een negatieve ontwikkeling weggezet te worden. In dit geval maken zij het leven hoofdzakelijk een stuk makkelijker; het leven van opsporingsambtenaren in dit geval.
Alle nieuwe technologieën die hun intrede doen kun je als mens, maar ook als organisatie niet negeren. Het is daarom belangrijk te bekijken welke mogelijkheden ze bieden, maar wel langs de meetlat van de organisatie. Intelligente technologietrends kunnen bijvoorbeeld een rol spelen in het lezen, herkennen en onafhankelijk verwerken van informatie en zullen ook een steeds grotere invloed uitoefenen op modern informatiemanagement. Denk aan gestructureerde taken, zoals het wijzigen van adresgegevens of het verwerken van facturen, die uitgevoerd kunnen worden met behulp van softwarerobots. Zij vormen virtuele medewerkers die toegang hebben tot alle belangrijke applicaties en 24 uur per dag kunnen reageren op verzoeken van klanten. Dit leidt ertoe dat medewerkers zich kunnen concentreren op hun kernactiviteiten.
Toelaatbaar
De vraag is tot hoever je kunt gaan met artificial intelligence. Ja, we hebben nu zo ontzettend veel data, we weten alles van mensen omdat bronnen gekoppeld en schier onuitputtelijk zijn. Maar mag je al deze data zonder meer ontginnen? Nee, zegt de rechter in het geval van Syri. Laat je dus niet blind meevoeren om maar te innoveren. Bepaal wat toelaatbaar en nodig is voor jouw organisatie en voor specifieke doeleinden.
Zelf blijven nadenken over de vraag wat data voor ons kan betekenen en wat de impact is op zaken als privacy houdt ons scherp. Gebruiken we onze hersenen niet, dan ontstaan er namelijk geen geheugensporen in het brein en wordt er niets geleerd. We hoeven niet bang te zijn voor geestelijke afstomping als we maar blijven nadenken. Vertrouw dus niet alleen op ‘artificial intelligence en softwarerobots‘, dan blijf je in de race voor de survival of the smartest.
