Fake news 2.0: slimme nieuwe tools moeten ‘deepfake’-video’s met valse gezichten ontmaskeren

De echte Donald Trump en een valse met het gezicht van acteur Nicolas Cage.
Universiteit van Albany De echte Donald Trump en een valse met het gezicht van acteur Nicolas Cage.
Het Amerikaanse ministerie van Defensie heeft software ontworpen die zogeheten deepfakes ontmaskert. Dat zijn video's waarbij bijvoorbeeld iemands gezicht werd vervangen door een ander via machinaal leren. Dat gebeurt zo levensecht dat je het verschil met het blote oog niet of nauwelijks kan zien. Welkom bij fake news 2.0.

Die valse video's kwamen bijvoorbeeld onder de aandacht toen een tool werd gepubliceerd waarmee het relatief eenvoudig is om hoofden van veelal bekende vrouwen toe te voegen aan pornovideo's. De makers achter de tool Fake App trainden een neuraal netwerk aan de hand van in video's gedetecteerde gezichten om de gezichtsuitdrukkingen, belichting en positie te bepalen. 

Gevolgen

De echt ogende valse video's kunnen volgens critici een destabiliserend effect hebben, omdat het moeilijk is om echt nog van nep te onderscheiden. Zo waarschuwde technoloog Aviv Ovadya in februari voor een ‘Informatie Apocalyps’ omdat de technologie de lijnen tussen feit en fictie zodanig doet vervagen dat “iedereen kan doen lijken alsof wat dan ook gebeurd is, of het nu echt is of niet”. En net zoals de desinformatiecampagnes aanvankelijk niet bedreigend leken – tot we realiseerden dat het eigenlijk al aan het gebeuren was – zijn we volgens hem dichter dan we denken bij die potentiële ‘Informatie Apocalyps’ of ‘Infocalyps’.

De gevolgen kunnen verwoestend zijn, bijvoorbeeld wanneer een wereldleider in een valse video een oorlog uitlokt. "Het moet niet perfect zijn", aldus Ovadya. "Gewoon goed genoeg om de vijand te laten denken dat er iets is gebeurd zodat het een roekeloze reactie of vergelding uitlokt."

Detectie

Om dergelijke valse video's te ontmaskeren, moet andere software de trucageprogramma's een stap voor blijven. En dat is een taak voor het Amerikaans overheidsprogramma Media Forensics, dat wordt geleid door het Defense Advanced Research Projects Agency (DARPA). Hoofd Matthew Turek van het programma legt aan MIT Technology Review uit dat aanpassingen kunnen worden gedetecteerd via subtiele aanwijzingen die zijn aangetroffen in bestaande gemanipuleerde afbeeldingen en video's.

Een van de technieken werd ontwikkeld door professor Siwei Lyu van de Universiteit van Albany, die vertelt dat traditionele forensische methodes voor het 'ontmaskeren' van nepvideo's niet altijd even goed werken. Hij maakte samen met een student vijftig verschillende nepvideo's, waarna hij er een aantal bestaande methodes op losliet. Sommige methodes leverden resultaat op, maar andere weer niet.

Tucker Carlson, politiek commentator bij Fox News, krijgt ook een Nicolas Cage-behandeling.
Universiteit van Albany Tucker Carlson, politiek commentator bij Fox News, krijgt ook een Nicolas Cage-behandeling.

Lyu ontdekte dat de gezichten op deepfakes zelden of nooit met de ogen knipperen, of dat ze dat doen op een onnatuurlijke manier. Dat hangt samen met het feit dat deepfakes worden 'getraind' op stilstaande afbeeldingen van een persoon met open ogen. Lyu erkent dat een goede vervalser hier iets op kan verzinnen, bijvoorbeeld door plaatjes te verzamelen van een persoon die met de ogen knippert. De professor zegt ook hier iets op te hebben verzonnen, al wil hij niet prijsgeven wat. Volgens hem is hij met deze tool de vervalsers nog te slim af en dat wil hij graag zo houden.

Andere onderzoekers werken aan vergelijkbare technieken waarbij het draait om het automatisch herkennen van opvallende signalen, zoals rare hoofdbewegingen of een vreemde oogkleur. De wetenschappers richten zich op aspecten die moeilijk zijn om goed na te bootsen in deepfakes.




5 reacties

Je naam en voornaam verschijnen bij je reactie
Door het plaatsten van een reactie, ga je akkoord met de gedragsregels


  • Marc Verschaeren

    Als je dan toch voor enig vermaak wil zorgen doe het dan goed en neem een goede acteur .

  • Juan Esteban

    de linkse is Donald Dumb and Dumber

  • peter destoop

    dus alles wat Trump zegt komt niet van hem ???? :o)

  • jan van dessel

    Zeer duidelijk dat links een karikatuur is want wie zou ooit op dit fake gezicht stemmen?

  • Marc Statham

    Rechtse is Nicolas Cage.