Känna igen deepfake – så avslöjar du manipulerade bilder, video och röster

Deepfakes – bilder, videoklipp och röster som skapats eller manipulerats med artificiell intelligens (AI) – blir allt svårare att skilja från äkta material. I en studie från biometriföretaget iProov 2025 var det bara 0,1 procent av 2 000 testpersoner som lyckades peka ut alla äkta och fejkade klipp korrekt, trots att de i förväg fått veta att de skulle leta efter förfalskningar. Att känna igen en deepfake handlar därför inte om ett enda knep, utan om att kombinera flera kontroller: tecken i själva materialet, verktyg som granskar källan och sunt källkritiskt tänkande. Den här guiden går igenom hur du gör – för video, bild och röst – och hur du skyddar dig mot bedrägerier.

Vad är en deepfake?

Ordet deepfake är en sammansättning av engelskans deep learning (en form av maskininlärning) och fake (falsk). Det är medieinnehåll där AI använts för att byta ut, skapa eller förändra ett ansikte, en kropp, en scen eller en röst så att det ser eller låter autentiskt ut. Tekniken bygger på att modeller tränats på stora mängder bilder och ljud och sedan kan generera nytt material som efterliknar en viss person.

Tekniken i sig är inte olaglig – samma metoder används i film, reklam och för att generera video med AI eller för att skapa bilder med AI. Det blir ett problem först när innehållet används för att vilseleda, lura till sig pengar eller skada någons anseende. Därför är det värdefullt att kunna avgöra om det du ser eller hör faktiskt är äkta.

Så känner du igen en manipulerad video

Videodeepfakes är svårast för oss människor att genomskåda – i iProov-studien var deltagarna 36 procent sämre på att upptäcka en fejkad video än en fejkad bild. Granska gärna klippet i helskärm, pausa och spola fram bild för bild. Inget enskilt tecken är ett bevis, men flera av dessa samtidigt bör göra dig misstänksam.

Ansikte och ögon

• Onaturliga ansiktsuttryck eller en mimik som inte riktigt matchar det som sägs.
• Ögon som rör sig stelt, blinkar för sällan eller för ofta, eller reflektioner i ögonen som inte stämmer med omgivningen.
• Övergångar vid hårfäste, öron och haka som ser suddiga ut eller ”flimrar” när personen rör på huvudet.

Läppsynk och ljud

• Munrörelser som inte stämmer med orden kan betyda att ljud och bild manipulerats var för sig.
• Robotaktig, monoton eller konstigt betonad röst, eller ljud som saknar naturliga bakgrundsljud.

Ljus, skuggor och hud

• Hud som ser onaturligt slät, vaxartad eller suddig ut, ibland med skiftande hudton mellan ansikte och hals.
• Skuggor och ljus som faller åt fel håll, eller glasögon och smycken som förändras mellan bildrutor.

En viktig reservation: enkla tips som ”leta efter att personen inte blinkar” fungerar allt sämre i takt med att tekniken förbättras. Experter rekommenderar därför att du lägger mer vikt vid var klippet kommer ifrån och om samma uppgift bekräftas av oberoende, trovärdiga källor.

Så avslöjar du en AI-genererad bild

Stillbilder är ofta lättare att granska eftersom du kan zooma in i lugn och ro. Titta särskilt på detaljer som AI-modeller historiskt haft svårt med:

• Händer och fingrar: fel antal fingrar, konstiga leder eller händer som smälter ihop.
• Text i bilden: skyltar, loggor och bokstäver som är förvrängda eller nonsensaktiga.
• Upprepning och symmetri: mönster i bakgrunden som upprepas, eller ansikten i en folkmassa som ser identiska ut.
• Småsaker: smycken, tänder, tangentbord och glasögonbågar som inte hänger ihop logiskt.
• Bakgrunden: suddiga eller ”smälta” objekt bakom huvudmotivet.

Tänk också på helheten. Är bilden ovanligt dramatisk, perfekt tajmad eller känslomässigt laddad? Spridda, uppseendeväckande bilder utan trovärdig källa bör granskas extra noga innan du litar på dem eller delar vidare.

Så känner du igen en klonad röst

Röstkloning är den form av deepfake som vuxit snabbast i svenska bedrägerier. Med bara några sekunders inspelat tal kan en AI skapa en konstgjord kopia av någons röst – samma grundteknik som används i vanliga AI-röster och text till tal, fast missbrukad. Flera fall med AI-klonade röster har redan upptäckts i Sverige, där bedragare utger sig för att vara anhöriga, chefer eller kända profiler.

Lyssna efter dessa tecken i ett misstänkt samtal eller röstmeddelande:

• Onaturlig andning, konstiga pauser eller en röst som låter aningen ”platt”.
• Ett tonfall eller ordval som inte riktigt passar personen.
• Bakgrundsljud som saknas helt eller tvärtom klistrats på.
• Press på att agera snabbt, gärna i kombination med en begäran om pengar eller känslig information.

Det effektivaste skyddet är att inte lita på rösten ensam. Lägg på och ring upp personen själv på ett nummer du redan har sparat. Många familjer och företag kommer också överens om ett hemligt kodord som ska användas om någon oväntat ber om pengar via telefon.

Verktyg och metoder för att kontrollera äkthet

Eftersom ögat och örat inte räcker lönar det sig att kontrollera källan med hjälp av verktyg. Inget av dem ger ett hundraprocentigt svar, men tillsammans höjer de tröskeln rejält för att bli lurad.

Omvänd bildsökning

Att söka med bild i till exempel Google Lens eller TinEye visar var en bild dykt upp tidigare. Hittar du originalet i ett helt annat sammanhang, eller inte alls, är det en varningssignal. Enligt Internetstiftelsens undersökning ”Källkritik i Sverige 2025” är det bara runt två av tio som gör en omvänd bildsökning – trots att det är en av de enklaste kontrollerna.

Content Credentials och ursprungsdata (C2PA)

Content Credentials är en öppen standard (C2PA) som kan bädda in en digital ”innehållsförteckning” i en fil: var den skapats, med vilket program och om AI varit inblandad. Allt fler kameror och AI-verktyg märker sitt material på det här sättet, och du kan ladda upp en bild i Content Authenticity Initiatives kontrollverktyg för att se om det finns sådana uppgifter. Tänk på att avsaknad av märkning inte bevisar att en bild är fejk – det betyder bara att ingen ursprungsdata följer med.

Källkritik – den viktigaste metoden

• Vem har publicerat innehållet, och är kontot trovärdigt?
• Rapporterar etablerade, oberoende medier samma sak?
• När och var ska det ha hänt – stämmer tid och plats?
• Vill innehållet få dig att reagera snabbt eller känslomässigt?

Deepfake-bedrägerier – så skyddar du dig

Deepfakes används i dag flitigt i bedrägerier. I Sverige har bland annat en falsk reklamfilm spridits på Metas plattformar där en riktig polis fått sitt ansikte manipulerat för att locka till en bluffinvestering – en händelse som polisen bekräftat är polisanmäld. Ofta kombineras deepfakes med klassiskt nätfiske och med bluffsamtal (vishing) för att verka mer övertygande.

Så minskar du risken att bli lurad:

• Var extra misstänksam vid oväntade kontakter som handlar om pengar eller inloggning.
• Verifiera alltid genom en egen, känd kanal – ring upp på sparat nummer, mejla eller besök den officiella webbplatsen.
• Använd aldrig BankID eller lämna ut koder för att någon som ringt upp dig ber om det.
• Lita inte på att en film eller röst är äkta bara för att den föreställer någon du känner igen.
• Om du blivit utsatt: anmäl till din bank och till polisen.

Lagar och märkning av AI-innehåll

EU:s AI-förordning (AI Act) ställer sedan den 2 augusti 2026 nya krav på öppenhet kring AI-innehåll genom artikel 50. Den som sprider en deepfake ska informera om att innehållet är artificiellt skapat eller manipulerat, och leverantörer av generativa AI-system ska märka sitt material så att det går att identifiera maskinellt. Enligt en överenskommelse i det så kallade AI-omnibuspaketet får system som redan fanns på marknaden före den 2 augusti 2026 något längre tid på sig att uppfylla märkningskraven. Reglerna innebär att du framöver oftare kommer att mötas av märkning som visar att innehåll genererats med AI – men du bör fortfarande vara källkritisk, eftersom bedragare sällan följer lagen.

Vanliga frågor (FAQ)

Går det att helt säkert avgöra om något är en deepfake?

Nej. Tekniken utvecklas snabbt och även experter missar förfalskningar. Det säkraste är att kombinera flera kontroller – tecken i materialet, omvänd bildsökning, eventuell ursprungsdata och framför allt en trovärdig, oberoende källa.

Varför fungerar tipset om onaturliga blinkningar allt sämre?

Tidiga deepfakes hade svårt att återge blinkningar naturligt, men moderna modeller har till stor del löst det. Enstaka visuella ”tecken” är därför opålitliga på egen hand, och du bör lägga större vikt vid källa och sammanhang.

Hur känner jag igen en AI-klonad röst i telefon?

Lyssna efter onaturliga pauser, platt tonfall och saknade bakgrundsljud, och var särskilt vaksam om någon pressar dig att agera snabbt kring pengar. Lägg på och ring upp personen på ett nummer du redan har sparat, eller använd ett förutbestämt kodord.

Vad gör jag om jag blivit lurad av en deepfake?

Kontakta genast din bank om pengar är inblandade och spärra det som behöver spärras. Gör sedan en polisanmälan och spara bevis som skärmdumpar, länkar och nummer. Rapportera även innehållet till plattformen där du såg det.

Måste AI-genererat innehåll märkas i Sverige?

Ja, EU:s AI-förordning kräver sedan den 2 augusti 2026 att deepfakes och annat genererat material ska redovisas och märkas. Men eftersom bedragare inte följer reglerna är avsaknad av märkning inget bevis på att innehållet är äkta.