Het Tilburg Institute for Law, Technology and Society (Tilt) heeft tien criteria opgesteld om via het toepassen van slimme technologieën racisme in stadions aan te pakken. De maatregelen moeten voorkomen dat digitale systemen hun doel voorbijschieten en leiden tot privacy-schendingen of onbedoelde discriminatie.
De inzet van slimme technologie om racisme en discriminatie in voetbalstadions tegen te gaan, is volgens de onderzoekers nog niet volledig uitgekristalliseerd. Ze onderzochten voetbalclubs, waaronder PEC Zwolle, PSV en Feyenoord die momenteel verschillende technologieën testen om wangedrag, zoals racistische spreekkoren en intimidatie, beter aan te pakken. Hierbij wordt gekeken naar digitale systemen die probleemgedrag kunnen detecteren met geluid- en beelddetectie en de elektronische pre-registratie van supporters. Die ontwikkelingen sluiten aan op het programma Ons Voetbal Is Van Iedereen (OVIVI), waarin de Koninklijke Nederlandse Voetbalbond (KNVB), Eredivisie, Keuken Kampioen Divisie en de overheid sinds 2019 samenwerken aan innovatieve oplossingen.
Privacy en bias
Hoewel slimme technologie ‘veelbelovend’ is, kleven er volgens Tilt aanzienlijke risico’s aan. Het rapport vermeldt dat er ethische, juridische en maatschappelijke zorgen bestaan rondom vooringenomenheid van geautomatiseerde systemen die worden gebruikt bij voorspellen, signaleren, besluitondersteuning, vaak aangeduid als bias. De onderzoekers stellen dat het uitermate wrang zou zijn als systemen die worden ingezet om discriminatie tegen te gaan uiteindelijk juist zelf onrechtmatig onderscheid stimuleren, bijvoorbeeld op basis van huidskleur of indirecter, op gezichtsuitdrukking of de toon van spreekkoren. Het gevaar hierop is realistisch, stellen ze. ‘Denk aan een systeem dat aanslaat op supporters die voor hun recht op een veilige en inclusieve wedstrijdbeleving opkomt, of op voetballers die geëmotioneerd reageren op wat op de tribunes gebeurt. Het gegeven dat er altijd menselijke beoordeling in de controlekamer plaatsvindt is hierbij geen afdoende maatregel.’ De onderzoekers wijzer er op dat los van het feit dat deze personen ook vooringenomen kunnen zijn of expertise missen, er rekening moet worden gehouden met de invloed van technologie op menselijke werkwijzen. In dit kader wordt gewezen op de noodzaak om het gebruik van een systeem meteen te kunnen staken.
De komende jaren zal in verschillende voetbalstadions verder geëxperimenteerd worden met technologieën als identity based access (digitale pre-registratie), toegang via irisscan en de registratie van beeld en geluid. Deze pilots, die tot eind 2025 lopen, moeten uitwijzen in hoeverre slimme technologie daadwerkelijk een rol kan spelen in de strijd tegen racisme en discriminatie in voetbalstadions.
Tien criteria voor verantwoorde technologie
Om de effectiviteit en verantwoorde inzet van slimme technologieën in stadions te waarborgen, heeft Tilt de volgende tien criteria opgesteld:
- Zorg voor effectieve systemen: onderzoek eerst of de voordelen opwegen tegen de investeringen en of de technologie daadwerkelijk het beoogde doel bereikt.
- Investeer in draagvlak: werk samen met supporters en andere betrokkenen om de acceptatie van de technologie te vergroten.
- Zorg voor een wettelijke basis: borg de technologie wettelijk en zorg voor naleving van AVG- en AI-wetgeving.
- Houd doel- en middelbinding in de gaten: vermijd dat technologie een doel op zich wordt en richt je op de bestrijding van racisme en discriminatie.
- Investeer blijvend in goede samenwerkingsrelaties: betrek alle partijen bij het proces en zorg voor een open cultuur.
- Zorg voor goede technische en organisatorische inbedding: verzeker dat systemen goed zijn geïntegreerd binnen bestaande wetten en infrastructuren.
- Richt op minimale en juiste gegevensverwerking: verzamel alleen de strikt noodzakelijke gegevens en definieer duidelijk wat als discriminerend gedrag wordt gezien.
- Vermijd en verhinder vooringenomenheid bij technologische ondersteuning: zorg dat technologie zelf niet discrimineert door ‘bias’ te vermijden.
- Vermijd chilling effects en onrechtmatige nudging: pas op dat supporters zich niet beperkt voelen in hun gedrag door continue monitoring.
- Waarborg menselijke controle en autonomie van bezoekers: zorg dat mensen de controle houden over beslissingen die door technologie worden ondersteund.
Bekijk hier het volledige rapport.
