Meer regulering nodig voor deepfake

Tilburgse onderzoekers zien handhaving tekort schieten

Makers van deepfakes genieten te veel vrijheid, voor alles omdat de handhaving erop ernstig tekort schiet. Door ook het produceren en aanbieden van bijvoorbeeld fake-porno te verbieden, is deze ontwikkeling beter aan banden te leggen. Thans is alleen het gebruik van deepfakes voor specifieke doeleinden strafbaar. Maar dan is het kwaad al geschied.

Dat blijkt uit een vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology and Society (TILT). De onderzoekers stellen vast dat het huidige recht al veel regels stelt aan deepfakes. Denk aan het Wetboek van Strafrecht, de Algemene Verordening Gegevensbescherming (AVG) en het recht op vrijheid van meningsuiting. Maar de handhaving van deze regels blijft achter. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een aantal opties tot regulering.

Een daarvan is niet alleen het gebruiken en in bezit hebben van deepfake te verbieden, maar ook het ontwikkelen en verspreiden op de consumentenmarkt. Daarnaast is te overwegen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.

Zeer realistisch

"Experts verwachten dat over vijf jaar meer dan negentig procent van alle online-content geheel of gedeeltelijk gemanipuleerd zal zijn"

Een deepfake, een samentrekking van 'deep learning' en 'fake', bestaat uit een beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. Experts verwachten dan ook dat over vijf jaar meer dan negentig procent van alle online-content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnieken zijn beperkt in capaciteit en kunnen slechts een deel van het fake-materiaal automatisch wegfilteren.

Door de opkomst van deepfakes zal de vraag naar de echtheid vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes zijn te gebruiken om nepnieuws te verspreiden. Het is ook mogelijk ermee verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake-pornofilms van vrouwen te maken. Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde.

Seksuele handelingen

De onderzoekers stellen nu dat een brede discussie omtrent de wenselijkheid van deepfakes noodzakelijk is. Meer bewustwording en regelgeving zijn te overwegen, waarbij de prioriteit moet liggen bij het beïnvloeden van verkiezingen via fakevideo’s, bijvoorbeeld door buitenlandse mogendheden.

Politie, justitie en rechters zullen systemen moeten ontwikkelen om zorg te dragen dat fake-materiaal niet in de rechtszaal wordt ingebracht, om zo onterechte veroordelingen te voorkomen.

Zeker veel aandacht behoeft de aanpak van zogenoemde non-consensual porn. Naar schatting ruim 95 procent van alle deepfakes betreft pornovideo’s waarin bijvoorbeeld een vrouw allerhande seksuele handelingen lijkt te verrichten, terwijl daar helemaal geen sprake van is geweest. Het is bekend dat de verspreiding van dergelijke video’s een grote impact kan hebben op jonge meisjes.

Opdrachtgever van de studie is het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC), het kennisinstituut voor het ministerie van Justitie en Veiligheid. 

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Uw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met uw persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden
Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste ict-nieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2022-01-06T09:56:00.000Z Alfred Monterie


Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.