IBM stopt met de verkoop van software voor gezichtsherkenning of de analyse daarvan. De nieuwe topman Arvind Krishna kondigt dit aan in een brief aan het Amerikaanse Congres. Het gaat om alle gezichtsherkenningssoftware met een algemeen doel.
Krishna is fel gekant tegen het gebruik van technologie die massasurveillance en etnische profilering kan bevorderen. Ook voor andere technologie waarmee menselijke grondrechten en vrijheden worden geschonden, hoeft men voortaan niet meer bij IBM aan te kloppen. Software voor gezichtsherkenning is al langer onderwerp van felle discussies. Niet alleen kunnen er mensenrechten mee worden geschonden, maar de software werkt ook minder nauwkeurig bij het herkennen van mensen met een kleurtje.
Krishna zegt met zijn beslissing niet over een nacht ijs te zijn gegaan. Het besluit om met software voor gezichtsherkenning te stoppen is het gevolg van maandenlange beraadslagingen. De verkoop, marketing en vernieuwing van deze software is inmiddels stilgezet. Bestaande klanten kunnen nog wel wat service krijgen.
Wangedrag
Volgens Krishna mag technologie geen discriminatie of raciale onrechtvaardigheid bevorderen. Het verhogen van de transparantie is op zich zelf oké, maar software voor gezichtsherkenning valt gemakkelijk te misbruiken. Ook over kunstmatige intelligentie (artificial intelligence: ai) is de IBM-topman kritisch. Big Blue heeft samen met de gebruikers van ai-systemen een gedeelde verantwoordelijkheid op dit gebied. Krishna onderstreepte de noodzaak deze systemen te testen op vooringenomenheid wanneer die gebruikt wordt in de wetshandhaving. In zijn brief gaat hij uitgebreid in op het verantwoord gebruik van technologie. Ook riep hij op tot strengere wetgeving tegen wangedrag van de politie.
De vraag is of andere grote techbedrijven zoals Google het voorbeeld van Krishna gaan volgen.
Sundar Pichai, topman van Google’s moederbedrijf Alphabet, zei begin dit jaar wel wat te zien in een tijdelijk verbod op het gebruik van gezichtsherkenning in de openbare ruimte. Zo’n verbod is in de EU niet denkbeeldig. De Europese Commissie werkt aan een voorstel dat het gebruik voor drie tot vijf jaar moet stilleggen.
