Organisatie betaalde meer dan 9 miljoen dollar voor pro-Trump-campagne met valse beelden

AP
Facebook en Twitter hebben vrijdag een wereldwijd netwerk van honderden nepaccounts offline gehaald. De valse accounts verspreidden pro-Trump-boodschappen en berichten die negatief waren over de Chinese overheid. Ze maakten daarbij gebruik van nepfoto’s die werden vervaardigd met behulp van artificiële intelligentie. Dat berichten de techreuzen en onafhankelijke onderzoekers.

De accounts werden gelinkt aan The BL, wat staat voor The Beauty of Life, een Amerikaans mediabedrijf dat banden heeft met Epoch Media Group. Die organisatie is erg kritisch voor de Chinese overheid en heeft banden met de Chinese spirituele beweging Falun Gong. Epoch Media Group is ook een erg uitgesproken voorstander van de herverkiezing van president Trump.

Artificiële intelligentie

Volgens Facebook was The BL gelinkt aan honderden nepaccounts die met grote regelmaat politieke boodschappen verspreidden op zowel Facebook als Instagram. De boodschappen waren erg pro-Trump en bijzonder kritisch voor zijn tegenstanders en critici. Gebruikers werden aangemoedigd om te reageren als ze het eens waren met politieke stellingen.

Facebook deelt mee dat de accounts niet werden offline gehaald omwille van de inhoud van de boodschappen, maar wel omwille van de tactieken die gebruikt werden door de mensen die ze verspreidden, zoals het gebruik van beelden die met artificiële intelligentie werden gegenereerd, wat in strijd is met het Facebook-reglement. Daarnaast maakten de nepaccounts ook vaak gebruik van echte foto’s die werden gestolen van andere gebruikers.

Technologische vooruitgang

Volgens onderzoekers van Graphika en het Digital Forensics Research Lab, twee Amerikaanse bedrijven die zich specialiseren in data- en socialenetwerkanalyse, is het de eerste keer dat ze “AI-gegenereerde beelden zien die op grote schaal worden ingezet om een reusachtige collectie van profielfoto’s te genereren die worden ingezet in een socialemediacampagne”.

Hoewel de duidelijke signalen als misvormde oren en vervormde achtergronden de onderzoekers hielpen bij het identificeren van de valse foto’s “evolueert deze technologie snel naar de vervaardiging van meer geloofwaardige beelden”, delen de experts van Graphika mee in een rapport.

Honderden accounts

Volgens Facebook waren 610 Facebook-accounts, 89 Facebookpagina’s, 156 Facebookgroepen en 72 Instagram-accounts betrokken bij het netwerk. Zo’n 55 miljoen Facebookgebruikers volgden minstens een van de pagina’s die verband hielden met de operatie, maar het is onduidelijk hoeveel van hen in de Verenigde Staten wonen.

Twitter bevestigt dat het 700 accounts die gelinkt worden aan hetzelfde netwerk offline haalde.

9 miljoen dollar

De organisatoren van de campagne spendeerden meer dan 9 miljoen dollar (8,1 miljoen euro) aan de promotie van hun content op Facebook, die handelde over hete hangijzers zoals “de impeachment (van Trump, red.), Conservatieve politieke ideologie, politieke kandidaten, verkiezingen, handel, familiewaarden en religieuze vrijheid”. Dat bedrag ligt bijna 100 keer hoger dan wat de beruchte Russische trollenfabriek volgens Facebook rond de tijd van de Amerikaanse presidentsverkiezingen in 2016 neertelde.

Zelfde beheerders

Epoch Media Group laat in een verklaring weten dat ze “niets te maken heeft met de website The BL”. “The BL werd opgestart door een voormalige medewerker en stelt sommige van onze voormalige personeelsleden te werk”, zegt uitgever Stephen Gregory in een verklaring. Hij vraagt Facebook om de beschuldigingen in te trekken en een verbod op advertenties van Epoch Media in te trekken.

Facebook reageerde vrijdag dat de leidinggevenden van The BL vrijdagochtend “nog actieve beheerders waren van de pagina’s Epoch Media Group toen hun accounts werden gedeactiveerd en The BL werd verwijderd.”

Verscheidene Amerikaanse media en onderzoekers luidden de voorbije maanden al de alarmbel omwille van de verdachte tactieken van The BL en de mogelijkheid dat het mediabedrijf nepaccounts gebruikte om pro-Trump-boodschappen te verspreiden. Factchecker Snopes berichtte als eerste over de banden tussen The BL en Epoch Times.




3 reacties

Alle reacties zijn welkom zolang ze voldoen aan de do's en don'ts die je hier kan terugvinden: gedragsregels. Elke dag ontvangen wij duizenden reacties, het kan enkele uren duren voor jouw reactie wordt geplaatst. Wordt jouw reactie afgekeurd dan werd er geoordeeld dat deze onze gedragsregels schendt.


  • Karel Valgaern

    Kristine, en waarom zou dat onrechtmatig verkregen zijn? Als jij gaat zwemmen, en je niet aan de regels van het zwembad houd en daardoor buitengezet word, krijg jij dan ook je geld terug?

  • Kristine Delacourt

    En wat gaat Facebook doen met die 9 miljoen? Want dat is ook onrechtmatig verkregen.

  • Edmond Dillien

    Allemaal ex-werknemers die bij hen gewerkt hebben maar ze verspreiden wel alles waar hun ex-baas voor staat, maar ze hebben er echt niks meer mee te maken, ja hallo, is er ook 1 man die die uitleg gewoon slikt?