In toenemende mate nemen computers op basis van algoritmes beslissingen die daarvoor alleen door mensen werden genomen. Vaak gaat dat goed, soms gaat dat minder goed. Die beslissingen worden door computers genomen bij banken en verzekeraars, maar ook in het verkeer, bij de overheid en in de zorg. Dat computers zich steeds meer met menselijke beslissingen gaan bemoeien is een feit. Maar wat vinden mensen eigenlijk van deze ontwikkeling?
We zijn er tot op zekere hoogte al aan gewend dat computersystemen ons helpen om taken makkelijker uit te voeren. Als een navigatiesysteem bij een wegafsluiting een alternatieve route aangeeft dan worden de aanwijzingen doorgaans klakkeloos opgevolgd. Het systeem weet het uiteindelijke eindpunt en ook de eventuele andere randvoorwaarden voor de rit. Op basis van die regels is het navigatiesysteem prima in staat om een andere route te bepalen. Daar vertrouwen we op.
Maar van heel veel beslissingen die door computers op basis van algoritmes worden genomen zijn we helemaal niet op de hoogte. Sterker nog, we zijn ons niet eens bewust dat die beslissingen door computers worden genomen. Dat gebeurt allemaal ‘achter de schermen’ en bij het uiteindelijke resultaat, bijvoorbeeld de toe- of afwijzing van een verzekering of hypotheek, ziet de klant helemaal niet dat aan die beslissing een grondige analyse door een algoritme vooraf is gegaan.
Bewustwording
In de komende jaren zullen mensen steeds meer te maken krijgen met computerbeslissingen. Want computers worden in toenemende mate ingezet om te assisteren bij gecompliceerde beslissingstrajecten. Dit komt vooral omdat computers beter in staat zijn om uit de groeiende hoeveelheden data de juiste gegevens te halen op basis waarvan die beslissingen genomen kunnen en moeten worden. Maar hoewel computerbeslissingen nauwkeuriger en objectiever zijn, en veelal ook als dusdanig worden ervaren, is er ook kritiek.
Computers houden immers geen rekening met emoties en gevoelens, ze maken geen uitzonderingen en er is geen sprake van ethische factoren. Een algoritme volgt slechts een vaste set regels. Dus die algoritmes moeten telkens getoetst worden aan menselijke normen en waarden en als blijkt dat daar dingen mis gaan dan moeten de algoritmes daar weer op aangepast worden. We zitten nu echter nog in een bewustwordingsfase dat er überhaupt zo veel beslissingen door computers worden genomen.
Omdat ik eigenlijk wel benieuwd ben hoe het staat met die bewustwording hebben mijn collega’s en ik een onderzoek uitgevoerd waarin het nemen van beslissingen door computers of algoritmes centraal staat. Een tipje van de sluier? Een kleine meerderheid van de deelnemers aan het onderzoek heeft eigenlijk wel vertrouwen in die computerbeslissingen. Sterker nog, bijna 60 procent meent dat computers objectievere beslissingen nemen dan mensen. Dat is op zich heel positief, al is de meerderheid nog krap en realiseert een kwart van de deelnemers zich zelfs helemaal niet dat de invloed van computerbeslissingen al behoorlijk groot is. Dus daar ligt nog een mooie taak voor bedrijven: organisaties en mensen blijven informeren over de invloed en mogelijkheden die technologie biedt. Als we dat goed doen, ontstaat er een toekomstbestendige vertrouwensrelatie tussen mens én machine.
‘Computers houden immers geen rekening met emoties en gevoelens, ze maken geen uitzonderingen en er is geen sprake van ethische factoren. Een algoritme volgt slechts een vaste set regels.’
Een algoritme volgt niet per se een vaste set regels, als een algoritme gebaseerd is op een model bijv. machine learning, dan heeft het stukje “vast” een niet eenduidige betekenis.
En algoritmen op basis van data hebben wel degelijk vaak een bias, zo blijkt.
Niettemin kan ik me verder wel vinden in het artikel.