Vertrouwen in kunstmatige intelligentie groeit

Bijna de helft van de consumenten heeft vertrouwen in ai-gebaseerde interacties met organisaties. Aan de andere kant vinden meer klanten dan vroeger dat ondernemingen niet transparant genoeg zijn over de data die ze verzamelen. Dat blijkt uit een onderzoek van Capgemini.

Capgemini ondervroeg voor zijn onderzoek ruim achthonderd organisaties en 2.900 consumenten. Daarin werd gepeild naar het vertrouwen van het grote publiek in ai en de ethische kwesties die hiermee gepaard gaan. Naarmate het gebruik van ai-gedreven innovaties zoals gezichtsherkenning toeneemt, komen die ethische kwesties immers steeds meer onder de juridische en maatschappelijke loep te liggen.

Vandaag de dag zegt bijna de helft van de consumenten dat ze vertrouwen hebben in ai-gebaseerde interacties met organisaties, tegenover dertig procent in 2018. Klanten verwachten echter ook dat ai-systemen hen de resultaten duidelijk uitleggen en dat organisaties verantwoording afleggen als hun ai-algoritmen fout gaan

Meer organisaties werken ook aan het afdwingen van een ethisch handvest en het bewustzijn over ethische vooroordelen en transparantie is verbeterd. De verantwoording is echter nog steeds fragmentarisch: slechts 53 procent van de organisaties heeft een leider die verantwoordelijk is voor de ethiek van ai-systemen en slechts de helft van de organisaties heeft een vertrouwelijke manier om klanten en/of medewerkers de kans te geven ethische kwesties met ai-systemen aan de orde te stellen.

Bijna zestig procent van de organisaties heeft met juridische onderzoek te maken gekregen en 22 procent heeft in de afgelopen twee tot drie jaar te maken gehad met een negatieve reactie van klanten als gevolg van beslissingen die door hun ai-systemen zijn genomen. Bijna veertig procent van de klanten zegt ook dat ze voor een menselijke interactie zullen kiezen als ze zo een negatieve ai-ervaring meemaken. Consumenten zijn eveneens van mening dat organisaties niet genoeg doen aan een aantal belangrijke ethische kwesties: het aandeel van klanten die geloven dat organisaties volledig transparant zijn over hoe ze hun persoonlijke gegevens gebruiken, is gedaald van 76 procent in 2019 tot 62 procent nu.

Aanbevelingen

Op basis van deze bevindingen en thema's worden in het rapport enkele belangrijke aanbevelingen voor organisaties belicht om een ethisch robuuste ai op te bouwen. Daaronder de aanbeveling om ai proactief in te zetten om duurzaamheidsdoelstellingen te behalen en de raad om de ai-ervaring zo menselijk mogelijk te maken. Tegelijk moet er ook menselijk toezicht op de ai-systemen blijven. Bovendien moet er ook absolute zekerheid zijn over de technische robuustheid van de ai-systemen. Tot slot moet aan de klanten de mogelijkheid geboden worden om de controle te behouden over hun eigen privacy wanneer ze met ai in contact komen.

Op zich zijn al deze maatregelen prima, maar in het geheel niet voldoende, zegt Capgemini. Ze moet ook gesteund worden door sterk leiderschap, goed bestuur en deugdelijke interne processen.

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2020-10-06T10:01:00.000Z Frederic Petitjean
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.