'Noldus schendt via tech mensenrechten in China'

Amnesty ontdekte dat bedrijven uit Nederland, Frankrijk en Zweden digitale surveillancetechnologie verkochten aan belangrijke spelers op het gebied van massasurveillance en openbare veiligheid in China. Het gaat bijvoorbeeld om biometrische technologie, zoals systemen voor gezichtsherkenning, maar ook om surveillance-camera’s. In sommige gevallen was de export rechtstreeks bestemd voor projecten van massasurveillance, met het risico dat het tegen Oeigoeren, Kazachen en andere minderheden wordt gebruikt. Het Nederlandse bedrijf Noldus Information Technology verkocht volgens de organisatie emotieherkenningssystemen aan instanties die gelieerd zijn aan organen voor de openbare veiligheid en wetshandhaving in China.

Herkenning van emoties

De FaceReader-software van het bedrijf wordt gebruikt voor geautomatiseerde analyse van gezichtsuitdrukkingen, bijvoorbeeld woede, geluk, verdriet, verrassing en walging. Verschillende Chinese universiteiten bleken de tooling in te zetten een koppelden deze data aan het openbare veiligheidsapparaat en de politie. Ook het Chinese ministerie voor Openbare Veiligheid gebruikt de software bij onderzoek naar frauduleus gedrag van hooggeplaatste personen. De geëxporteerde producten zijn digitale surveillance-tech, omdat ze zijn ontworpen om gegevens van personen te monitoren en/of te analyseren. Het leveren van digitale surveillancetechnologie ter ondersteuning van het systeem van openbare veiligheid en strafrecht in China vormt een aanzienlijk risico voor de mensenrechten. Het Chinese strafrechtsysteem wordt door de autoriteiten vaak misbruikt om de mensenrechten te beperken, zo stelt de mensenrechtenorganisatie.

Levering aan universiteiten in Xinjiang

Amnesty International documenteerde ook dat Noldus zijn digitale surveillancetechnologie tussen 2012 en 2018 aan ten minste twee universiteiten in Xinjiang heeft verkocht. Dit omvatte onder meer de levering van de The Observer XT-software aan de Shihezi University in 2012. De universiteit valt onder het bestuur van het Xinjiang Production and Construction Corps (XPCC). XPCC vervult een belangrijke rol in ‘het waarborgen van de eenwording van het land en de sociale stabiliteit van Xinjiang en in het bestrijden van gewelddadige terroristische misdrijven’.

Deze export vormt volgens Amnesty duidelijk een risico voor de mensenrechten. In 2012 was al bekend dat de Chinese regering Oeigoerse culturele en religieuze praktijken routinematig verwart met terrorisme. In de jaren daarna werd de technologische vooruitgang van de onderdrukking van minderheden in Xinjiang duidelijk, waarbij systemen voor emotie- en gedragsanalyse van bijzonder belang zijn voor de Chinese autoriteiten. Noldus heeft Amnesty International volgens de organisatie geen duidelijke antwoorden gegeven op de vraag welke due diligence-onderzoeken zij destijds heeft uitgevoerd alvorens deze verkopen af te ronden.

EU-regelgeving

De EU schiet volgens Amnesty tekort in het handhaven van de export van digitale surveillancetechnologie. Dit blijkt uit de nauwe handelsbanden tussen Europese surveillancetechnologiebedrijven en Chinese veiligheidsdiensten die in het Amnesty-rapport worden beschreven. Amnesty roept de EU op om alle digitale surveillancetechnologie op te nemen in de exportregels. Op dit moment is bijvoorbeeld de export van emotie- en etniciteitsherkenningssoftware ongecontroleerd. Ook roept Amnesty op om de export van gezichtsherkenningssoftware te verbieden, om mensenrechten beter te waarborgen in exportregels en om ervoor te zorgen dat bedrijven de gevolgen van hun bedrijfsvoering voor mensenrechten vooraf analyseren via een human rights impact assessment.

Amnesty’s bevindingen worden gepubliceerd voorafgaand aan een bijeenkomst in Brussel dat morgen plaatsvindt. Hierbij beslissen het Europees Parlement, de Europese Commissie en de EU-lidstaten of de exportregels moeten worden aangescherpt.

Meer is te vinden in het onderzoeksrapport van Amnesty International.