Facebooks politiske annonceplads er i stigende grad en legeplads for deepfake-svindel og vildledende indhold, hvor nogle af platformens største annoncører fabrikerer videoer af amerikanske politikere, der lover ikke-eksisterende statslige udbetalinger.
I sommer hævdede ændrede videoer af Det Hvide Hus' pressesekretær Karoline Leavitt, at amerikanere kunne kræve 5.000 dollars nødhjælpschecks, hvilket omdirigerede brugere til et websted kaldet Get Covered Today. Lignende falske videoer viste senatorerne Elizabeth Warren og Bernie Sanders, der gav identiske løfter. "Dette er ikke en gimmick," sagde Warrens efterligning, selvom det i virkeligheden var det.
Ifølge en ny analyse fra Tech Transparency Project (via The New York Times) tegnede 63 annoncører, der brugte sådanne vildledende taktikker, sig for omkring en ud af fem af Facebooks 300 største politiske annonceforbrugere.
Tilsammen kørte de næsten 150.000 annoncer og brugte næsten 49 millioner dollars i løbet af de sidste syv år. Mens mange af disse konti er blevet suspenderet, fortsatte mere end halvdelen med at poste nye annoncer så sent som i denne uge.
"Det eneste, der er værre end disse deepfake AI-videoer, der bruges til at snyde amerikanere, er det faktum, at Meta tjener titusindvis af millioner af dollars på disse svindelannoncer," sagde senator Warren og opfordrede til strengere forbrugerbeskyttelse online.
Meta, som ejer Facebook, forbyder annoncer, der udgiver sig for at være embedsmænd eller anvender vildledende praksis, og hævder at håndhæve disse regler "kraftigt" og lover investeringer i teknisk forsvar. Alligevel siger kritikere, at virksomhedens håndhævelse er langsom, stort set automatiseret og reaktiv og er afhængig af brugere eller forskere til at markere svindel.
Fremkomsten af AI-værktøjer har gjort det nemmere at skabe vildledende annoncer, og sociale medieplatforme er nu den primære vektor for onlinesvindel, der overgår telefon- eller sms-svindel. Føderale tilsynsmyndigheder og regeringer, herunder Singapore, presser Meta til at slå ned og truer med bøder, hvis platformen ikke handler.
Da annonceindtægterne for Meta nærmer sig 160 milliarder dollars årligt, tyder Tech Transparency Projects analyse på, at kortsigtet profit ofte har forrang over platformens integritet og brugersikkerhed.
"Pendulet har svinget mod mere kortsigtede indtægtsovervejelser i forhold til platformens langsigtede sundhed," sagde Rob Leathern, tidligere Meta-medarbejder og ekspert i onlinetillid. "Måske på et tidspunkt skal det svinge den anden vej."
