Makers van deepfakes genieten te veel vrijheid, voor alles omdat de handhaving erop ernstig tekort schiet. Door ook het produceren en aanbieden van bijvoorbeeld fake-porno te verbieden, is deze ontwikkeling beter aan banden te leggen. Thans is alleen het gebruik van deepfakes voor specifieke doeleinden strafbaar. Maar dan is het kwaad al geschied.
Dat blijkt uit een vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology and Society (TILT). De onderzoekers stellen vast dat het huidige recht al veel regels stelt aan deepfakes. Denk aan het Wetboek van Strafrecht, de Algemene Verordening Gegevensbescherming (AVG) en het recht op vrijheid van meningsuiting. Maar de handhaving van deze regels blijft achter. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een aantal opties tot regulering.
Een daarvan is niet alleen het gebruiken en in bezit hebben van deepfake te verbieden, maar ook het ontwikkelen en verspreiden op de consumentenmarkt. Daarnaast is te overwegen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.
Zeer realistisch
Een deepfake, een samentrekking van ‘deep learning’ en ‘fake’, bestaat uit een beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. Experts verwachten dan ook dat over vijf jaar meer dan negentig procent van alle online-content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnieken zijn beperkt in capaciteit en kunnen slechts een deel van het fake-materiaal automatisch wegfilteren.
Door de opkomst van deepfakes zal de vraag naar de echtheid vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes zijn te gebruiken om nepnieuws te verspreiden. Het is ook mogelijk ermee verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake-pornofilms van vrouwen te maken. Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde.
Seksuele handelingen
De onderzoekers stellen nu dat een brede discussie omtrent de wenselijkheid van deepfakes noodzakelijk is. Meer bewustwording en regelgeving zijn te overwegen, waarbij de prioriteit moet liggen bij het beïnvloeden van verkiezingen via fakevideo’s, bijvoorbeeld door buitenlandse mogendheden.
Politie, justitie en rechters zullen systemen moeten ontwikkelen om zorg te dragen dat fake-materiaal niet in de rechtszaal wordt ingebracht, om zo onterechte veroordelingen te voorkomen.
Zeker veel aandacht behoeft de aanpak van zogenoemde non-consensual porn. Naar schatting ruim 95 procent van alle deepfakes betreft pornovideo’s waarin bijvoorbeeld een vrouw allerhande seksuele handelingen lijkt te verrichten, terwijl daar helemaal geen sprake van is geweest. Het is bekend dat de verspreiding van dergelijke video’s een grote impact kan hebben op jonge meisjes.
Opdrachtgever van de studie is het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC), het kennisinstituut voor het ministerie van Justitie en Veiligheid.
