Facebook en Microsoft lanceren wedstrijd om deepfake video’s op te sporen

Shutterstock
Facebook gaat een samenwerking aan met Microsoft in de strijd tegen deepfake video’s. Dat deelt het bedrijf mee in een blogbericht. Ook het tech-consortium Partnership on AI en verscheidene academici werken mee aan het project. Deepfake video’s zijn nep, maar nauwelijks te onderscheiden van echte beelden.

Facebook investeert maar liefst 10 miljoen dollar (9 miljoen euro) in de ‘Deepfake Detection Challenge’ die het onderzoek naar opsporingsmethoden voor dergelijk nep beeldmateriaal een duw in de rug moet geven. 

In het kader van het onderzoek heeft Facebook onderzoekers de opdracht gegeven om realistische deepfakes te produceren, zodat er een dataset kan gecreëerd worden voor het testen van detectietools. 

Gevaar voor verkiezingen?

In aanloop naar de Amerikaanse presidentsverkiezingen in november 2020 staan socialemediaplatformen onder druk om de dreiging van deepfakes aan te pakken. In deepfakes wordt artificiële intelligentie gebruikt om hyperrealistische video’s te creëren waarin een persoon iets lijkt te zeggen of doen dat hij in werkelijkheid niet zei of deed.

Voorlopig doen er nog geen goed gemaakte deepfake video’s de ronde die grote politieke gevolgen hebben, maar dat dergelijke gemanipuleerde video’s voor opschudding kunnen zorgen werd recent nog aangetoond met een ‘cheapfake’ video van Nancy Pelosi, de Democratische voorzitter van het Huis van Afgevaardigden: de beelden waren manueel vertraagd zodat het leek alsof ze dronken was.

Kat-en-muisspel

Sommige onderzoekers werken nu aan systemen om een video of foto op het ogenblik van productie een digitaal watermerk te geven, maar de snelle evolutie van deepfake-technologie leidt tot een wapenwedloop tussen de makers ervan en degenen die de video’s proberen op te sporen.

“Het is een kat-en-muisspel. Als ik een detectie voor deepfakes ontwikkel, dan geef ik de aanvaller een nieuwe discriminator om op te testen”, zegt Siddharth Garg, assistant-professor computer engineering aan de Tandon School van New York University.

Toegankelijkheid

Bovendien wordt deepfake-technologie ook steeds toegankelijker voor minder ervaren videomakers. De Chinese app Zao maakt het bijvoorbeeld mogelijk voor gebruikers om hun gezicht op het lichaam van filmsterren te plaatsen. Op YouTube zijn er tutorials te vinden voor het maken van deepfakes en er bestaan websites waarop deepfakes gecreëerd kunnen worden.




3 reacties

Alle reacties worden voor publicatie gelezen -en goed- of afgekeurd- door het moderatie-team van HLN. Elke reactie moet voldoen aan deze gedragsregels.
Je naam en voornaam verschijnen bij je reactie.


  • wim Goossens

    @ Jan Uyttebroeck : Waarom denk jij dat de krantenberichten gemanipuleerd worden ? Is het misschien omdat journalisten opzoekwerk doen en de echte waarheid schrijven en dat die niet blijkt te zijn wat jij als waarheid aanneemt ...

  • Daniel Wouters

    De huidige media berichtgeving is al jaren deep fake,en journalisten zoals Boris Johnson zijn op deze manier zelfs premier van GB geworden.

  • Jan Uyttebroeck

    Gaan ze dan ook gemanipuleerde krant berichten op zoeken ?