Vad är deepfake? Så upptäcker du AI-genererade deepfakes

Vad är deepfake?

En deepfake är en syntetisk bild, video eller ljudinspelning som skapats med hjälp av AI för att efterlikna en verklig persons utseende eller röst på ett sätt som kan vara svårt att skilja från äkta material.

Så, vad betyder deepfake? Begreppet “deepfake” är en sammanslagning av de engelska orden "deep learning" (djupinlärning) och "fake" (falsk). 

Tekniken gör det möjligt att byta ut en persons ansikte i en video, få det att se ut som att någon säger eller gör saker de aldrig gjort, eller till och med klona en persons röst med skrämmande precision. 

Hur skapas deepfakes?

En deepfake skapas genom en process som kallas djupinlärning, en avancerad form av maskininlärning. En AI, specifikt en typ som kallas Generative Adversarial Network (GAN), matas med stora mängder data – till exempel genom tusentals bilder och videoklipp på en specifik person.

Systemet består av två delar: en "generator" som skapar de falska bilderna och en "diskriminator" som försöker avgöra om bilderna är äkta eller falska. Genom en ständig tävlan mellan de två delarna lär sig AI:n att skapa övertygande och realistiska förfalskningar.

Förr krävdes kraftfulla datorer och specialistkunskap för att skapa en deepfake. Idag finns det ett flertal appar och onlineverktyg som gör det möjligt för nästan vem som helst att skapa enklare deepfakes, ofta genom att byta ut sitt eget ansikte mot en kändis i ett videoklipp.

Så kan deepfakes se ut

När vi pratar om deepfakes tänker många direkt på videor där någon fått sitt ansikte "påklistrat" på någon annans kropp. Men det finns många olika typer – från röstförfalskningar till fullkroppsanimeringar. För att förstå hur deepfakes kan missbrukas är det viktigt att känna till de vanligaste varianterna.

Nedan går vi igenom de vanligaste typerna av deepfakes som du säkert stött på i vardagsmedier – och som även väcker oro inom cybersäkerhet. 

1. Ansiktsbyten i video (Face-swaps)

Den mest kända formen av deepfake är så kallade face-swaps. Här läggs en persons ansikte över någon annans kropp i en rörlig video. AI:n följer ansiktsuttryck och rörelser bild för bild – vilket skapar en realistisk illusion. 

Vissa används för roliga memes, andra sprids som fejknyheter som kan skada personers rykte. Även vana tittare kan luras om kvaliteten är hög.

2. Läppsynk och ljudpålägg

Den här tekniken kallas ibland för ”puppeteering” – dockspelande. Här byts munrörelser ut för att passa ett manipulerat ljudklipp, så att det ser ut som om personen säger något de aldrig har sagt. Med en klonad röst blir det extra övertygande.

3. Röstkloning utan bild

Den här typen av deepfake handlar enbart om ljud. AI:n efterliknar en persons röst – till exempel i ett telefonsamtal. Det används bland annat i telefonbedrägerier där bedragare låtsas vara en chef som kräver en snabb banköverföring. 

Eftersom det inte finns några visuella ledtrådar är dessa svåra att avslöja utan avancerade analysverktyg.

4. Fullkroppsanimationer

AI-modeller kan kopiera hela kroppsrörelser – allt från hållning till gester – och överföra dem till en annan person. Resultatet blir att någon verkar dansa, spela fotboll eller utföra något de aldrig gjort. Det kan användas i filmproduktion och AR-upplevelser, men väcker oro inom cybersäkerhet när det gäller att skapa fejkade ”alibi-videor” eller manipulerade bevis.

5. Textbaserade imitationer

Textbaserade imitationer är inte alltid vad du direkt tänker på som en deepfake – men AI kan också efterlikna hur en person skriver. Bedragare kan skapa meddelanden som låter precis som du. I kombination med bild eller ljud skapas en komplett fejkperson. I takt med att AI blir bättre på text är det troligt att detta blir en del av framtidens bedrägerier via chattar och mejl.

Läs även: Vad är en cyberattack?

Deepfakes vi minns – exempel från verkligheten

Deepfakes är inte bara ett tekniskt experiment – tekniken har redan använts i verkliga situationer. Allt från roliga YouTube-parodier till avancerade bedrägerier och politisk manipulation visar hur kraftfull (och farlig) tekniken kan vara.

Vi går igenom några uppmärksammade exempel på deepfakes som du kanske minns: 

• Elon Musk och bluff med kryptovaluta

I december 2024 spreds en fejkvideo där Elon Musk verkade lova bort 20 miljoner dollar i kryptovaluta. Videon såg äkta ut och uppmanade tittarna att själva skicka pengar för att "delta". Många gick på bluffen – och händelsen satte fokus på hur deepfakes kan användas i bedrägerier och hur svårt det är att skilja sant från falskt.

• Företagsbedrägeri mot Arup

I januari 2024 drabbades det brittiska ingenjörsföretaget Arup av ett deepfake-bedrägeri. Under ett videosamtal blev anställda lurade att tro att deras CFO (finanschef) gav klartecken för flera stora överföringar – totalt över 25 miljoner dollar. Det visade sig senare att både rösten och ansiktet var förfalskade. Händelsen visar hur företag kan bli måltavlor för avancerade AI-bedrägerier.

• Fejkad robocall från Joe Biden inför valet 2024

Inför primärvalet i New Hampshire 2024 ringde ett automatiserat samtal ut där president Joe Bidens röst uppmanade väljare att inte rösta. Ljudet var fejk – men lät övertygande och nådde tusentals personer. Det väckte stor debatt om hur AI kan användas för att påverka demokratiska val.

• Deepfake-ljud riktat mot skolrektor i Baltimore

I april 2024 började ett ljudklipp spridas där en skolrektor i Baltimore hördes säga rasistiska kommentarer. Klippet visade sig vara ett deepfake – men innan sanningen kom fram hann rektorn stängas av och utsättas för hot. Händelsen visar hur deepfakes kan skada människors rykte och skapa social oro, även om innehållet är påhittat.

När deepfakes blir farliga – ett växande hot mot säkerheten

Även om tekniken kan användas för underhållning och satir, utgör deepfakes ett allvarligt och växande säkerhetshot. Riskerna inkluderar:

• Bedrägerier

Bedragare kan använda röstkloning för att imitera en familjemedlem eller en chef i ett telefonsamtal och be om pengar eller känslig information. Företag har redan förlorat miljontals kronor genom så kallade Vishing-attacker där deepfake-röster lurat anställda att genomföra falska transaktioner.

• Desinformation och propaganda

Falska videor på politiker eller andra offentliga personer kan skapas för att manipulera opinionen, sprida lögner och underminera förtroendet för demokratiska institutioner. En video där en politiker ser ut att erkänna ett brott eller uttrycka en extrem åsikt kan få enorm spridning innan den avslöjas som falsk.

• Uthängningar och trakasserier

Teknologin används för att skapa falska pornografiska videor där en persons ansikte klipps in i existerande material – ett fenomen som främst drabbar kvinnor. Detta kan leda till förödande personliga konsekvenser för offret.

• Identitetsstöld

Genom att kombinera deepfake-videor med annan stulen information kan bedragare skapa övertygande falska identiteter för att till exempel ansöka om lån eller komma över företagshemligheter.

Polisiära råd och hur du skyddar dig mot deepfakes

Polisen och säkerhetsexperter uppmanar till ökad vaksamhet och källkritik till följd av deepfakes. Faktum är att 25 % av svenska företag uppgivit att de utsatts för en deepfake-attack minst en gång. Här är några praktiska råd för att skydda dig:

1. Var sunt misstänksam: Om något verkar för bra, eller för chockerande, för att vara sant – så är det förmodligen det. Var särskilt vaksam om du får oväntade samtal eller meddelanden där någon ber om pengar eller inloggningsuppgifter, även om rösten låter bekant.
2. Verifiera genom en annan kanal: Om en vän eller kollega ringer och ber om en akut överföring, lägg på och ring upp personen på det nummer du har sparat i din kontaktlista. Ställ en kontrollfråga som bara ni två kan svaret på.
3. Använd kodord: Inom familjen kan ni komma överens om ett hemligt kodord som måste användas vid oväntade förfrågningar om pengar via telefon eller sms.
4. Lämna aldrig ut BankID: Ge aldrig ut koder från ditt BankID eller din bankdosa på uppmaning av någon som kontaktar dig.
5. Anmäl alltid: Om du misstänker att du blivit utsatt för ett bedrägeri ska du omedelbart kontakta din bank för att försöka stoppa eventuella transaktioner och därefter göra en polisanmälan.

5 tecken du kan leta efter för att avslöja en deepfake

Det är inte alltid lätt att se om något är en deepfake, men vissa detaljer kan avslöja förfalskningen. Leta efter följande tecken:

• Onaturliga ögonrörelser: Ofta blinkar personen i en deepfake-video inte tillräckligt ofta, eller så ser blinkningarna onaturliga och stela ut.
• Felmatchad mimik och röst: Läpprörelserna är inte alltid perfekt synkroniserade med ljudet i en deepfake-video. 
• Avikelser i ansiktet: Hudtonen kan se ojämn ut, eller så kan kanterna runt ansiktet vara suddiga eller förvrängda, särskilt vid snabba huvudrörelser.
• Udda belysning: Skuggor och ljus på det inklippta ansiktet kanske inte stämmer överens med resten av videon. Titta efter hur ljuset faller. 
• Be personen vrida på huvudet: Ett enkelt test i ett videosamtal är att be personen vrida huvudet åt sidan. AI-modellerna tränas oftast på bilder framifrån, vilket kan göra att profilen ser konstig eller förvrängd ut.

Skydda din data och försvåra för bedragaren

Deepfake-bedrägerier börjar ofta med att dina personuppgifter hittas på nätet. Din adress och ditt telefonnummer är grunden som gör en riktad attack möjlig.

Vi på DoldAdress hjälper dig att dölja dina uppgifter från upplysningar och avindexerar dig från Google, vilket minskar risken för att bli utsatt. Ta kontroll över din data och skydda din integritet. 

Skaffa DoldAdress idag!

Frågor och svar

Är deepfakes lagligt?

Själva tekniken att skapa en deepfake är inte olaglig. Det är användningen av den som kan vara brottslig. Att skapa en harmlös, satirisk video är sällan ett lagbrott.

Däremot är det olagligt att använda deepfake-material för att begå brott. Beroende på situationen kan det klassas som flera olika brott:

• Förtal: Att sprida en falsk video där någon ser ut att säga eller göra något kränkande kan vara förtal.
• Olaga integritetsintrång: Att skapa och sprida deepfakes med sexuellt innehåll utan samtycke kan falla under olaga integritetsbrott. 
• Bedrägeri: Att använda en deepfake för att lura till sig pengar eller information, till exempel genom att imitera en chef eller en familjemedlem, är en form av bedrägeri.
• Trakasserier och ofredande: Att använda tekniken för att förfölja eller trakassera någon kan vara straffbart.

Lagstiftningen är under ständig utveckling för att hålla jämna steg med tekniken. Inom EU ställer den nya AI-förordningen krav på att AI-genererat innehåll som deepfakes tydligt ska märkas så att mottagaren förstår att det inte är äkta.

Vad är för- och nackdelarna med deepfakes?

Precis som med mycket annan teknik finns det både positiva och negativa sidor med deepfakes.

Fördelar:

1. Underhållning och film: Tekniken kan användas för att föryngra skådespelare, skapa digitala versioner av avlidna skådespelare eller för specialeffekter.
2. Utbildning: Deepfake kan skapa interaktiva upplevelser där historiska personer "väcks till liv" och berättar om sin tid.
3. Konst och satir: Konstnärer och kreatörer kan använda tekniken för att skapa nya uttrycksformer och satiriska kommentarer på samtiden.
4. Tillgänglighet: Röstkloning kan hjälpa personer som förlorat sin egen röst att kommunicera med en personlig, syntetisk röst.

Nackdelar:

1. Desinformation: Falska videor på politiker och andra makthavare kan användas för att påverka val, sprida propaganda och underminera tilliten i samhället.
2. Bedrägerier och utpressning: Kriminella använder röst- och videokloning för att genomföra avancerade bedrägerier mot både företag och privatpersoner.
3. Falsk pornografi: Ett skadligt användningsområde är att utan samtycke placera personers ansikten i pornografiskt material.
4. Urholkat förtroende: När vad som helst kan förfalskas riskerar vi att sluta lita på äkta video- och ljudbevis, ett fenomen som ibland kallas "the liar's dividend".

Kan människor upptäcka deepfakes?

Det blir allt svårare för oss människor att upptäcka deepfakes. Tidiga deepfakes hade ofta tydliga brister som onaturligt blinkande, dålig läppsynk eller digitala artefakter runt ansiktet. Men i takt med att tekniken utvecklas med kraftfullare AI blir förfalskningarna nästan omöjliga att upptäcka med blotta ögat.

Studier har visat att människor generellt är dåliga på att skilja äkta från falskt och ibland till och med uppfattar AI-genererade ansikten som mer pålitliga än verkliga. Medan medvetenhet och träning kan hjälpa, är människans förmåga begränsad. I framtiden kommer vi troligen att förlita oss mer på tekniska verktyg som kan analysera videofiler för att hitta spår av manipulation som är osynliga för oss.