TikTok beslutter at etablere nye moderationspolitikker i et forsøg på at bekæmpe vildledende information

I begyndelsen af ​​denne uge annoncerede Microsoft sin forberedelse mod fortsatte diskussioner om køb af TikTok i USA efter forbudstrusler i landet. Dette skridt er som svar på bekymringer, som præsident Trump har vist vedrørende dets fortrolighedspraksis og mulige forbindelser til den kinesiske regering.

For nylig har TikTok besluttet at etablere nye moderationspolitikker for bedre beskyttelse af sin platform mod forkert information, valgindblanding og andet manipulerende indhold inden årets valg. Virksomheden siger nu, at det eksplicit forbyder alle 'deepfakes'. Deepfakes er AI-drevne manipulationer af video og lyd designet til at vildlede folk om noget, en person måske har sagt eller gjort.

I et blogindlæg, der blev offentliggjort af Vanessa Pappas onsdag, blev det nævnt, at virksomheden tilføjer en politik, der forbyder manipuleret eller syntetisk indhold, der vildleder brugerne ved forvridning af sandheden 'på en måde, der kan forårsage skade'. Hun uddybede yderligere, at deres hensigt er at beskytte brugerne mod dybe eller overfladiske forfalskninger.

Deepfakes i TikTok har ofte været forbundet med ansigtsudvekslende videoer, der bruges til at skabe pornografisk indhold. Indtil nu er de ikke blevet brugt af en større politisk kampagne, skønt præsident Trumps genvalgskampagne og Det Hvide Hus har delt eller skabt mindre sofistikerede redigeringer og andet lignende vildledende indhold, der er blevet mærket meget vildledende.

I de senere år har vi observeret en stigning i teknikker til sofistikering og brugervenlighed til oprettelse af disse dybe forfalskninger. Denne teknologi har i høj grad rejst bekymring over, hvordan deepfakes på et eller andet tidspunkt kan bruges til at foretage vildledende redigeringer af politikere, der udtrykker støtte eller siger ting, der kan skade deres omdømme eller miskreditere dem. Flere store sociale medieplatforme og nogle stater har derfor fuldstændigt forbudt dybe forfalskninger i politiske reklamer.

TikTok tillader ikke nogen politiske annoncer allerede. Virksomheden tilføjer, at dens dybe falske forbud har til formål at gøre det sværere at bruge platformen til at skubbe vildledende medier til politisk gevinst. I henhold til sine nye moderationspolitikker forbyder Tiktok brugen af ​​bot- og falske konti, der vildleder folk med hensyn til kontohaverens identitet med det formål at svinge den offentlige mening eller udøve andre former for indflydelse. Det udvider også sit partnerskab med faktakontrol med Lead Stories og PolitiFact til faktakontrol af potentiel misinformation i forbindelse med USAs valg 2020. Det tilføjer også en valginformation med misinformation til sin rapporteringsmekanisme i appen for at lade brugerne markere mistænkelige konti eller indhold . Appen indeholder også et nyt 'valginformationscenter' til at pege brugere mod autentiske oplysninger om afstemning, race og andre relaterede emner.