D66 wil een algoritme-politie. Steeds meer systemen, ook die van de overheid, maken gebruik van algoritmes. En algoritmes discrimineren en dat mag niet. Een algoritme bedenkt bijvoorbeeld ‘Jij bent 50 plus dus je zult wel interesse hebben in kleefpasta voor je kunstgebit’ of ‘Jij bent een VVD’er dus je zult wel sjoemelen met je bonnetjes’ en uiteraard ‘Jij bent de vrouw van Jacob dus we kunnen net zo goed Zalando.nl direct voor je openen’.
Er zijn wel eens mensen die mij vragen: ‘Jacob ben je niet bang dat je vrouw jouw columns ook leest?’. Maar dan antwoord ik altijd dat ik hoop dat ze mijn columns leest want dan koopt ze tenminste even niks.
Twee kanten
Discriminatie heeft twee kanten. Algoritmes kunnen ook in je voordeel werken. Afgelopen zomer ging tijdens de vakantie de bril van mijn oudste dochter stuk. Via de website van de verzekeringsmaatschappij kon ik in een paar simpele stappen de schade laten vergoeden. Door het stellen van een paar vragen en alle informatie die ze al van mij hadden wist het algoritme dat ik te vertrouwen was en binnen twee dagen had ik zonder tussenkomst van een persoon het geld op mijn rekening. Waarschijnlijk dacht het algoritme: ‘Je dochter is dertien. Ze laat drie keer per week haar iPhone vallen. We vinden het nog knap dat de bril twee jaar heel is gebleven’. Ik hoefde niet eens bonnetjes op te sturen, maar dat kwam natuurlijk omdat ze ook wisten dat ik geen VVD’er ben.
In dit geval sta ik natuurlijk aan de prettige kant. Maar wat als ik in een iets kwetsbaardere doelgroep zou vallen? Zou ik dan nog steeds blij zijn met het algoritme? Dus of ik het eens ben met het voorstel van D66 om een algoritme-politie in te stellen? Daar zal D66 nooit achter komen want ja, ze hebben het referendum afgeschaft hè!
