Google bidrager til Deepfake Detection Research med sit visuelle Deepfake Corpus

Deep learning er et avanceret felt inden for maskinlæring, der vokser hurtigt i disse dage. Selvom der er gjort meget forskning inden for dette domæne, er der stadig et forskningsgab. Googles ingeniører har ydet betydelige bidrag i denne henseende, og de arbejder aktivt med at producere nogle større korpus. Søge-giganten har for nylig samarbejdet med Jigsaw for at frigive et kæmpe korpus af deepfakes. Forskerne kan nu arbejde på syntetiske videodetekteringsrammer ved hjælp af det frit tilgængelige corpus.

Andrew Gully, teknisk forskningschef for Jigsaw og Nick Dufour, forsker fra Google, beskrevet i et blogindlæg:

Google erklærede endvidere, at virksomheden arbejdede med samtykke og betalte skuespillere for at kompilere datasættet med hundredvis af videoer. Virksomheden brugte derefter videoerne til at producere tusindvis af dybe forfalskninger. De genererede både falske og ægte prøver.

I betragtning af det faktum, at deepfake er en teknologi under udvikling, vil virksomheden fortsætte med at tilføje til korpuset.

Deepfake-videoer blev oprindeligt set tilbage i 2017. Disse videoer blev oprindeligt samlet til humorindhold. Folk bruger nu AI-baserede systemer til at generere manipulerende videoer, der bytter ansigter på mennesker. Der er forskellige deepfake-genererende applikationer, der kan være til dette formål.

Det gode er, at myndighederne nu har taget dette spørgsmål til efterretning, og de laver strenge love for at øge kontrollen. Deepfake-datasættet er et stort bidrag til en løsning på problemet. Desuden arbejder Google allerede med at afbøde det potentielle misbrug af denne teknologi. Virksomheden udgav et syntetisk talekorpus, som senere blev brugt af mere end 150 undersøgelser.