De term deepfake komt van de onderliggende technologie deep learning, een vorm van Artificial Intelligence (AI) . Deze dieplerende algoritmen, die zichzelf leren hoe ze problemen moeten oplossen als ze grote verzamelingen gegevens krijgen, worden gebruikt om gezichten in video en digitale inhoud te verwisselen. Zo kan je extreem realistische nep-video’s maken en personen virtueel alles laten doen of zeggen wat je wilt.
Veel deskundigen denken dat deepfakes naarmate de technologie zich verder ontwikkelt een ernstiger bedreiging kunnen worden door toepassingen in het journalistieke en politieke speelveld of in criminele activiteiten.
Je hoeft alleen maar een paar gezichten te bekijken op thispersondoesnotexist.com om te weten te komen hoe levensecht deeplearning fictionele personen kan maken. (Er is trouwens ook een versie met virtuele katten).
Hoe herken je deepfake?
Naarmate deepfakes vaker voorkomen, zal de samenleving zich waarschijnlijk collectief moeten aanpassen aan het spotten van deepfakevideo’s, op dezelfde manier waarop online gebruikers nu afgestemd zijn op het detecteren van andere soorten nepnieuws.
Er zijn een paar tekenen die deepfakes verraden:
- De huidige deepfakes hebben moeite om gezichten realistisch te animeren, en het resultaat zijn video’s waarin het onderwerp nooit knippert, of veel te vaak of onnatuurlijk knippert.
- Let op problemen met huid of haar, of gezichten die waziger lijken te zijn dan de omgeving waarin ze staan. De scherpstelling kan er onnatuurlijk zacht uitzien.
- Ziet de belichting er onnatuurlijk uit? Vaak houden deepfake-algoritmes de belichting van de clips die als model voor de namaakvideo gebruikt werden, wat slecht overeenkomt met de belichting in de doelvideo.
- De audio lijkt misschien niet bij de persoon te passen, vooral als de video vervalst werd maar de originele audio niet zo zorgvuldig gemanipuleerd is.
Een aantal bedrijven ontwikkelt methoden om deepfakes op te sporen, bijvoorbeeld:
- Sensity heeft een opsporingsplatform dat lijkt op een antivirus voor deepfakes.
- Operation Minerva vergelijkt potentiële deepfakes met bekende video’s.
- Facebook organiseerde de Deepfake Detection Challenge, een open samenwerkingsinitiatief om het ontstaan van nieuwe technologieën voor het opsporen van deepfakes en andere soorten gemanipuleerde media aan te moedigen.
Lees ook: Deepfake: alles wat je moet weten over de door AI aangedreven nep-media