Slik spotter du en Deep Fake Face-Swapped Video

Nylig har Reddit gjort nyheter igjen med en underreddisjon i hvor folk bruker et maskinlæringsverktøy kalt "Deep Fake" for å automatisk erstatte en persons ansikt med en annen i en video. Åpenbart, siden dette er internett, bruker folk det for to ting: falsk kjendisporno og setter inn Nicolas Cage i tilfeldige filmer.

Mens bytte av ansiktet på et fotografi har det alltid vært relativt enkelt, bytte andres ansikt i en video pleide å være tidkrevende og vanskelig. Frem til nå er det hovedsakelig bare gjort av VFX-studioer for store budsjett Hollywood-filmer, hvor en skuespillerens ansikt er byttet ut på deres stunt-dobbel. Men nå, med Deep Fake, kan alle med en datamaskin gjøre det raskt og automatisk.

Før du går videre, må du vite hva en Deep Fake ser ut. Sjekk ut SFW-videoen nedenfor, som er en samling av forskjellige kjendisbytteswaper, hovedsakelig med Nic Cage.

Deep Fake-programvaren fungerer med maskinlæring. Det er først trent med et målfelt. Forvrengte bilder av målet går gjennom algoritmen, og det lærer hvordan de skal korrigeres for å ligne det uendrede målflaten. Når algoritmen blir deretter matet bilder av en annen person, antas det at de er forvrengt bilder av målet, og forsøker å rette opp dem. For å få video, opererer Deep Fake-programvaren på hver ramme individuelt.

Årsaken til at Deep Fakes har stort sett bare involverte skuespillere er at det er mye bilder av dem tilgjengelig fra forskjellige vinkler, noe som gjør trening mer effektiv (Nicolas Cage har 91 skuespiller på IMDB). Men i lys av hvor mye bilder og videoer folk legger ut på nettet, og at du egentlig bare trenger omtrent 500 bilder til å trene algoritmen, er det ingen grunn til at vanlige folk ikke kan målrettes, selv om det er sannsynligvis med litt mindre suksess.

Hvordan å spot en dyp falsk

Akkurat nå er Deep Fakes ganske enkelt å få øye på, men det blir vanskeligere når teknologien blir bedre. Her er noen av gaveene.

Rare ser ansikter. I mange Deep Fakes ser ansiktene bare rart ut. Funksjonene strekker seg ikke perfekt, og alt ser ut til å være litt voksaktig som i bildet nedenfor. Hvis alt annet ser normalt ut, men ansiktet virker rart, er det sannsynligvis en Deep Fake.

Flimring. Et vanlig trekk ved dårlige Deep Fake-videoer er ansiktet som ser ut til å flimre og de opprinnelige funksjonene av og til popper inn i visning. Det er normalt mer opplagt på kantene i ansiktet eller når noe passerer foran den. Hvis det er merkelig flimrende, ser du på en Deep Fake.

Ulike organer. Deep Fakes er bare ansiktsswapper. De fleste prøver å få en god kroppsmatch, men det er ikke alltid mulig. Hvis personen synes å være merkbart tyngre, lettere, høyere, kortere eller har tatoveringer de ikke har i virkeligheten (eller ikke har tatoveringer de har i det virkelige liv) er det en god sjanse for at det er falskt. Du kan se et veldig åpenbart eksempel nedenfor, hvor Patrick Stewart har blitt byttet med J.K. Simmons i en scene fra filmen Whiplash. Simmons er betydelig mindre enn Stewart, så det ser bare ut rart.

Kortklipp. Akkurat nå, selv når Deep Fake-programvaren fungerer perfekt og skaper et nesten uutslettelig ansiktsbytte, kan det bare virkelig gjøre det for kort tid. Før for lenge vil et av problemene ovenfor begynne å skje. Derfor er de fleste Deep Fake klippene som folk deler, bare et par sekunder, resten av filmen er ubrukelig. Hvis du er vist et veldig kort klipp av en kjendis gjør noe, og det er ingen god grunn det er så kort, det er en anelse om at det er en Deep Fake.

Ingen lyd eller dårlig leppesynkronisering. Deep Fake-programvaren justerer bare ansiktsfunksjoner; det gjør ikke magisk en person lyd som en annen. Hvis det ikke er lyd med klippet, og det er ingen grunn til at de ikke skal være lyd, er det en annen anelse du ser på en Deep Fake. På samme måte, selv om det er lyd, hvis de talte ordene ikke stemmer overens med de bevegelige leppene (eller leppene ser rart ut mens personen snakker som i klippet under), kan du likevel ha en Deep Fake.

Utrolig Klipp. Denne typen sier selvsagt, men hvis du får et virkelig utrolig klipp, er det en god sjanse for at du ikke skal tro på det. Nicolas Cage har aldri stjernespillet som Loki i en Marvel-film. Det ville være kult, skjønt.

Dubious Kilder. Som med falske bilder, hvor videoen angivelig kommer fra, er ofte en stor anelse om dens ekthet. Hvis New York Times driver en historie om det, er det langt mer sannsynlig å være sant at noe du oppdager i et tilfeldig hjørne av Reddit.

For tiden er Deep Fakes mer av en forferdelig nysgjerrighet enn et stort problem. Resultatene er enkle å få øye på, og mens det er umulig å godkjenne det som blir gjort, prøver ingen å forsyne Deep Fakes som ekte videoer.

Som teknologien blir bedre, er de sannsynligvis et mye større problem. For eksempel kan overbevisende falsk opptak av Kim Jong Un erklære krig mot USA føre til stor panikk.