Een Amerikaanse rechter heeft groen licht gegeven voor een collectieve rechtszaak tegen hr-technologiebedrijf Workday, waarin het algoritme van het bedrijf wordt beschuldigd van leeftijdsdiscriminatie in recruitment. De zaak kan een belangrijk precedent scheppen voor het gebruik van artificiële intelligentie in wervingsprocessen.
Derek Mobley startte vorig jaar de rechtszaak nadat hij gedurende zeven jaar meer dan honderd keer werd afgewezen voor openstaande jobs via het Workday-platform. Mobley, een financiële en it-specialist van boven de veertig, claimt dat Workday’s algoritme hem systematisch afwees vanwege zijn leeftijd, ras en handicaps. De rechter volgde de man in zijn verzoek. Vier andere eisers boven de veertig jaar hebben zich bij de zaak gevoegd, en mogelijk voegen nog anderen zich toe.
Op 1 uur afgewezen
De eisers beweren dat ze honderden sollicitaties hebben ingediend via Workday en telkens werden afgewezen, soms op minder dan een uur tijd. Dit wijst volgens de eisers op geautomatiseerde besluitvorming zonder menselijke beoordeling. Zij vragen een niet-gespecificeerde schadevergoeding en willen dat Workday gedwongen wordt zijn aanpak en algoritme te wijzigen.
Workday, dat door meer dan elfduizend organisaties wereldwijd wordt gebruikt voor werving en personeelsbeheer, biedt onder andere de dienst ‘HiredScore AI’ aan. Deze service gebruikt naar eigen zeggen ‘verantwoorde ai’ om topkandidaten te beoordelen en de screeningtijd voor recruiters te verkorten.
Het bedrijf ontkent de discriminatieclaims. Een Amerikaanse woordvoerder noemde tegen CNN de voorlopige rechterlijke uitspraak een ‘procedurele beslissing gebaseerd op beschuldigingen, niet op bewijs’. De Benelux-verantwoordelijken van Workday sluiten zich in een reactie hierbij aan. ‘Wij blijven van mening dat deze zaak ongegrond is. Centraal in de beweringen van de eiser staat dat Workday-producten aanwervingsbeslissingen nemen namens onze klanten, wat niet waar is.’
Vooroordelen
Toch ligt de materie gevoelig. Experts waarschuwen naar aanleiding van de zaak voor inherente vooroordelen in ai-wervingstools. Deze systemen worden, zo bleek ook al uit eerdere gevallen, vaak getraind op profielen van bestaande werknemers, waardoor ze onbedoeld bestaande demografische patronen kunnen reproduceren.
De eisers willen alvast aantonen dat Workday’s algoritme soortgelijk werkt door patronen te herkennen in werkgeversvoorkeuren. Als het systeem observeert dat een werkgever bepaalde beschermde groepen minder vaak aanneemt, zou het deze kandidaten minder vaak aanbevelen, luidt hun redenering.
Bij Workday zijn ze alvast stellig. ‘Dit is een voorlopige, procedurele uitspraak in een vroeg stadium van deze zaak die gebaseerd is op beweringen, niet op bewijs. De eiser heeft zijn beweringen niet met feiten gestaafd’, zo klinkt het bij Workday Benelux. ‘De rechtbank heeft geen inhoudelijke bevindingen tegen Workday gedaan. We hebben er alle vertrouwen in dat, zodra Workday zich met feiten mag verdedigen, de claims van de eiser zullen worden afgewezen.’
