Slik oppdager du deepfakes

Manipulerte stemmer, bilder og videoer blir brukt for å underholde, men også til å svindle, spre falske nyheter, propaganda og til å påvirke valg. Og selv om plattformgigantene nå har bestemt seg for å slå ned på deepfakes, er det viktig at hver og en av oss blir mer bevisst på hva vi bør se etter, for å kunne skille mellom det falske og det ekte.

Deepfakes er en trussel mot demokratiet

YouTube, Twitter og Facebook har i det siste økt innsatsen for å slå ned på bruk av manipulerte medier, inkludert deepfake-videoer. Deepfake er betegnelsen for medier, bilder, video og lyd, som er generert ved bruk av kunstig intelligens og maskinlæring. Metoden blir i økende grad benyttet til propaganda og spredning av falske politiske budskap, hvor ansikter og stemmer til kjente politikere og kjendiser blir misbrukt. Utviklingen og spredningen av deepfakes er en trussel for demokratiet.

Plattformselskapene forbyr deepfakes

YouTube har i lengre tid hatt et forbud mot manipulerte medier i deres retningslinjer for spam, villedende markedsføring og kommunikasjon, samt svindel. I bloggposten «How YouTube supports elections», som YouTube publiserte i begynnelsen av februar i år, er deepfakes inkludert som ett av flere eksempler på villedende valgrelatert innhold som ikke er tillatt.

Twitter har også oppdatert deres retningslinjer når det kommer til manipulerende videoer, som inkluderer deepfakes, men nevner ikke det amerikanske valget spesifikt. Derimot kunngjorde Twitter et generelt forbud mot manipulerte videoer som «sannsynligvis vil forårsake skade».

Facebook har nylig også innført et forbud mot manipulerte medier som deepfakes. Mark Zuckerberg ble blant annet utnyttet i en deepfake-video i 2019. Formålet var å teste Facebook sine egne retningslinjer vedrørende falske videoer. Den gang uttalte Facebook at de ikke ville fjerne videoen. Nå har sosiale medier-giganten snudd.

Deepfakes er også en sikkerhetstrussel Deepfakes kan også benyttes for å skade enkeltindividers omdømme og troverdighet, men også til å spre villedende informasjon som kan skade selskaper. Etter hvert som tilgangen til avansert teknologi som blir brukt til å produsere falske nyheter og propaganda blir enklere og billigere, vil også deepfakes i økende grad bli brukt til svindel. I 2019 ble vi blant annet vitne til at stemmen til en britisk toppsjef ble brukt til å svindle selskapet for nesten 2,3 millioner kroner.

• Blunking – deepfake-personer blunker med øynene mindre enn ekte personer
• Synkronisering av tale- og leppebevegelse
• Følelser og uttrykk i ansiktet i mismatch med hva deepfake-personen sier
• Misfarging, uskarpe bilder og litt hakkete video

Deepfakes for direktørsvindel

Deepfakes har som nevnt allerede blitt brukt som en ny form for direktørsvindel. Det er ingen grunn til å tro at dette ikke vil skje igjen. Derfor blir det fremover enda viktigere for selskaper å ha på plass gode rutiner, slik at de ansatte blir mer bevisst på deepfakes og hva de bør være obs på, for å unngå å bli svindlet.

Det kan handle om å dobbeltsjekke detaljer omtalt i e-post, telefon- eller videosamtaler, det være seg bankkonto-informasjonen, e-postadresser, telefonnumre og de fire punktene som Sabah Jassim og Bill Posters nevnte til Wired. I tillegg er det viktig å bekrefte forespørsler som handler om overføring av penger eller sensitiv informasjon med alle berørte parter.

På samme måte som at virksomheter bør regelmessig trene og oppdatere sine ansatte på IT-sikkerhet, bør de gjøre det samme når det kommer til nye konstruerte angrep, inkludert den utviklingen vi ser innenfor deepfakes. For det er ingen tvil om at deepfakes fremover bare vil bli vanskeligere å skille fra virkeligheten. At det kan bli tilnærmet umulig å skille mellom hva som er ekte og hva som er falskt, er en demokratisk og sikkerhetsmessig utfordring vi må ta på alvor.