Event| Internationale Vrouwendag 2024
Als de sterke ondervertegenwoordiging van vrouwen in de ict en andere technische vakgebieden voortduurt, blijven de data, die artificiële intelligence gebruikt, onvolledig, wat leidt tot bias-fouten. En dus zal de machine learning van morgen de nog altijd onevenwichtige samenleving van vandaag weerspiegelen. Dat stelt een aantal ai-experts van business-intelligence-specialist SAS op Internationale Vrouwendag.
Generatieve ai (gen-ai) is gebaseerd op historische gegevens zonder een sterke inbreng van vrouwen, stelt Melike Cinar, services delivery programmamanager. ‘Zolang we de data van vandaag niet veranderen, zal de machine learning van morgen altijd de nog altijd onevenwichtige samenleving van vandaag weerspiegelen.’ Volgens haar heeft gen-ai een groot potentieel voor verbeteringen op verschillende gebieden. ‘Alleen, ai is gebaseerd op door mensen gecreëerde gegevens en neemt menselijke gebreken over, zoals vooroordelen op basis van gender, leeftijd of etniciteit. De meest ingrijpende vorm van bias die ons vrouwen treft, is natuurlijk gender. De ongelijkheid die daaruit voortvloeit is sterk zichtbaar in generatieve ai en machinelearning-toepassingen.’
Wat ligt er aan de basis van de vooroordelen in deze toepassingen? ‘Simpel gezegd: datasets. Om dit probleem op te lossen, hebben we diverse datasets en steekproeven nodig in alle sectoren. Om historische gegevens op deze manier te diversifiëren, is een grotere bijdrage van vrouwen nodig. Zoals we allemaal weten, en zoals gebleken is uit onderzoeken, zijn vrouwen nog steeds sterk ondervertegenwoordigd in vakgebieden als informatica, digitale informatietechnologie en techniek. Als vrouwen niet genoeg bijdragen aan deze sectoren, blijft de ai-expertise onvolledig, wat leidt tot bias-fouten.’
Chatbots
Voordat ChatGPT populair werd, boden eerdere chatbots zoals Alexa, Siri en Cortana al mensachtige interacties, vaak met vrouwelijke personages. Volgens Véronique Van Vlasselaer, hoofd analytics & ai Zuidwest- en Oost-Europe bij SAS toont onderzoek aan dat genderstereotypen overheersten bij het benoemen van deze bots, waarbij mannelijke namen werden geassocieerd met zelfvertrouwen en competentie en vrouwelijke namen met warmte en zorg, wat de vooroordelen in door mannen gedomineerde industrieën weerspiegelt.
Van Vlasselaer: ‘Als onze toekomst moet afhangen van de huidige vorm van gen-ai dan zal onze toekomst en weerspiegeling zijn van ons verleden. Het gevaar zit in de details. Gepaste jobs voor jongens – volgens gen-ai – zijn softwareontwikkelaar, technicus in de bouw of techniek, sportcoach, brandweerman of technisch tekenaar. 3/5 jobs zijn gerelateerd aan de techwereld. Gepaste jobs voor meisjes – volgens gen-ai – zijn psycholoog, verpleegkundige, onderwijzer, grafisch ontwerper, milieudeskundige, 0/5 jobs is gerelateerd aan de techwereld.’
Met diversiteit als kompas navigeren we naar een toekomst waarin ai iedereen dient
~ Phaedra Kortekaas, algemeen directeur SAS Benelux
‘Als vrouw is het ontmoedigend om te zien dat ingesleten vooroordelen nieuwe technologieën infiltreren. De toepassingen van (gen-)ai die gendervooroordelen reproduceren roepen kritische vragen op over de impact ervan, vooral als het gaat om het vergroten van uitsluiting en de veiligheid van vrouwen’, zegt Phaedra Kortekaas, algemeen directeur SAS Benelux. ‘Toch is er een groot potentieel voor positieve maatschappelijke effecten, van het voorspellen van overstromingen tot het effectief behandelen van invasieve ziektes en het creëren van meer gelijkheid.’
Kortekaas stelt dat om de negatieve impact van ai te beperken er teruggekeerd moet worden naar de bron: de data, methodes en de teams die de technologie vormgeven. ‘Bewustwording is daarin belangrijk: beseffen dat ai-systemen niet noodzakelijk de algemene waarheid weergeven. Daarom moeten we diversiteit blijven omarmen en zorgen dat we diverse perspectieven integreren in het creatieproces. Dit zal leiden tot betere veiligheidsmaatregelen en kaders rondom deze technologie. Met diversiteit als kompas navigeren we naar een toekomst waarin ai iedereen dient, zonder vooroordelen.’
