Met kunstmatige intelligentie wordt het steeds eenvoudiger om audiovisueel materiaal te maken van mensen die iets zeggen of doen wat ze in werkelijkheid nooit gezegd of gedaan hebben. Deze zogenoemde ‘deepfakes’ kunnen op fantastische manieren worden ingezet, met name in de film- en entertainmentindustrie. Ook worden ze gebruikt in de geneeskunde, de psychiatrie, het onderwijs en bij online congressen.
Middel om monddood te maken
Hoewel deepfakes enorme kansen bieden, kunnen ze in de handen van kwaadwillenden op bijzonder vervelende en onwenselijke manieren worden gebruikt. Bijvoorbeeld om vals bewijsmateriaal te produceren in rechtszaken, politici uitspraken te laten doen die ze helemaal niet gedaan hebben, identiteitsfraude te plegen en mensen af te persen of te intimideren.
Dat laatste overkwam de Indiase onderzoeksjournalist Rana Ayyub toen zij zich kritisch had uitgelaten over een verkrachtingszaak in haar land. Nadat er eerst op sociale media talloze neptweets onder haar naam verschenen om haar in diskrediet te brengen, werd ze geconfronteerd met een deepfake pornovideo waarin ze zelf de hoofdrol leek te spelen. Het bleek een effectief middel om haar monddood te maken. De vernedering en schande die dit veroorzaakte, zorgde ervoor dat Ayubb naar eigen zeggen tegenwoordig niet alles meer durft te schrijven.
Onderzoek laat zien dat meer dan 90 procent van de deepfakes die momenteel online circuleren pornografisch zijn. Vaak wordt de technologie gebruikt om gezichten van personen in bestaande video’s te plakken, vrijwel altijd zonder toestemming. In bijna alle gevallen is het slachtoffer een vrouw. Natuurlijk zijn lang niet al deze video’s bedoeld om mensen die zich in het publieke debat roeren, onder druk te zetten. Het persoonlijke leed dat ze aanrichten is er niet minder om.
Wetgeving biedt onvoldoende bescherming
De wetgeving die onze persoonlijke levenssfeer in de echte wereld moet beschermen, schiet duidelijk tekort voor het beschermen van onze virtuele identiteit in de online wereld. Zo blijkt het voor slachtoffers van deepfakes op dit moment uiterst moeilijk om daders te achterhalen, of platforms te verzoeken video’s offline te halen, zelfs wanneer die in strijd zijn met het portretrecht of de Algemene verordening gegevensbescherming (AVG).
Burgers moeten dan ook beter geholpen worden om hun recht te halen. Het is belangrijk dat er wetgeving komt die platforms verplicht een adequate klachtenprocedure in te richten en onrechtmatige content te verwijderen. Ook is gerichte wetgeving nodig om slachtoffers te beschermen. Net zoals ze dat bij de AVG deed, zou de Europese Unie hierin het voortouw kunnen nemen.
Authentieke absurditeit
Daarmee zijn we er nog niet. Deze zomer verscheen er een video online waarin Viruswaarheidvoorman Willem Engel openlijk twijfelde aan de watersnoodramp in Limburg. Hij zette vraagtekens bij de overstromingen ‘in ongeveer het enige gebied in Nederland dat boven zeeniveau ligt’. Op Twitter was men het er al snel over eens: deze uitspraken waren zo absurd, dit moest wel een deepfake zijn.
Uiteindelijk bleek er geen sprake te zijn van een deepfake. De beelden waren authentiek. Onbedoeld gaven ze een voorproefje van wat ons te wachten staat. Het oprukken van deepfakes zal er de komende jaren voor zorgen dat we ook materiaal dat echt is, gaan wantrouwen. Zodoende kan de deepfaketechnologie de erosie van vertrouwen die in de samenleving aan de gang is, versterken en versnellen.
Maak samenleving weerbaar
Beleidsmakers zullen dan ook meer moeten doen om de samenleving weerbaar te maken. Mediawijsheid moet er niet alleen voor zorgen dat mensen zich ervan bewust zijn dat niet alles wat ze zien altijd waar is. Het is essentieel dat iedereen de weg naar betrouwbare bronnen weet te vinden. In een wereld waarin gemanipuleerd beeld en geluid een steeds groter deel wordt van ons dagelijks leven, moeten we leren om alle informatie op waarde te schatten.
Mariëtte van Huijstee is coördinator van het onderzoeksthema Maatschappelijk verantwoord ondernemen. Djurre Das houdt zich bezig met vraagstukken rond de toepassing van digitale technologie. Beiden werken aan het Rathenau-Instituut en hebben meegeschreven aan het rapport Tackling deepfakes in European policy dat op vrijdag 15 oktober wordt gepresenteerd in het Europees Parlement.
Foto: Julie Falk (Flickr Creative Commons)