Så använder bedragare AI i sina bluffar

AI har snabbt blivit en del av mångas vardag. De generativa AI-verktygen hjälper oss att skriva texter, skapa bilder, översätta språk, svara på frågor och lösa problem – på jobbet, i skolan eller privat. Men de kan också användas för att lura oss.

I december 2024 gick FBI ut med en varning till allmänheten om hur bedragare använder AI för att göra sina bluffar mer trovärdiga, till exempel genom falska röster, bilder, videor och välformulerade texter.

I den här kursen går vi igenom hur generativ AI används för att uppgradera några vanliga bluffar – och du får lära dig vad du behöver se upp med.

AI står för artificiell intelligens och är ett samlingsnamn för olika tekniker som försöker få datorer att fungera mer som människor. Det kan handla om att kunna resonera, planera, förstå språk, lära sig av data och känna igen mönster.

Generativ AI är en typ av artificiell intelligens som kan skapa nytt innehåll – till exempel text, ljud, bilder och video – utifrån vilken data den tränats på.

AI i sig skapar inga nya bedrägerier, men tekniken gör det möjligt för bedragare att göra sina bluffar snabbare, i större skala och på ett mer övertygande sätt.

Bluffmejl och bluff-sms har länge varit vanliga sätt för bedragare att lura människor. Förr gick det ofta att avslöja bluffarna på grund av dåligt språk – felstavningar, konstiga ordföljder och meningar som lät onaturliga.

Men med hjälp av generativ AI kan bedragare nu skapa bluffmejl och bluff-sms på perfekt svenska, vilket gör bluffarna svårare att upptäcka.

Kom ihåg: Var alltid försiktig med oväntade mejl, sms eller chattmeddelanden, som uppmanar dig att klicka på en länk, ladda ner en bifogad fil eller ringa upp ett telefonnummer – även om språket är flefritt.

Telefonbedragare har länge spelat olika roller för att lura oss. Ofta låtsas de ringa från din bank, en myndighet eller ett välkänt företag.

Med generativ AI kan bedragare klona röster och låta precis som en vän, en familjemedlem eller din chef. Det kan räcka med en kortljudsnutt för att skapa en trovärdig röstklon och många av oss har våra röster publicerade online, till exempel i videor på sociala medier.

Eftersom en välbekant röst inte längre räcker som bevis på vem som ringer kan det vara bra att bestämma ett kontrollord eller en kontrollfråga med nära anhöriga.

Kom ihåg: Använd aldrig ditt bank-id på uppmaning av någon som ringer.

Generativ AI kan inte bara klona röster. Tekniken gör det också möjligt för bedragare att efterlikna personers utseende och rörelser för videosamtal och videomöten.

Det kan låta som science fiction, men detta är redan tekniskt möjligt.

I Hongkong lurades en anställd på ett finansbolag att föra över 25 miljoner dollar till bedragare efter ett videomöte med vad som såg ut som hans chef och kollegor – men alla i mötet var fejkade med hjälp av AI.

Kom ihåg: Ett videosamtal behöver inte vara en garanti för att du pratar med rätt person.

Med generativ AI kan bedragare enkelt skapa fejkade videor med kändisar till bluffannonser av olika slag. Bedragare använder kändisar eftersom de snabbt skapar igenkänning och förtroende – och på nätet finns det gott om bilder, videor och röster av kändisar att utgå ifrån när de gör sina fejkade videoklipp.

Falska kändisvideor är exempelvis vanliga i investeringsbedrägerier. Bedragarna gör bluffannonser där det ser ut som kändisar, finansprofiler, politiker eller journalister lovar snabba och säkra vinster. Fejkade kändis- och influencervideor är också vanliga i annonser för butiker som säljer piratkopior eller i bluffar där varor aldrig levereras.

Kom ihåg: Annonser på nätet och i sociala medier granskas sällan av människor innan de publiceras. Därför kan falska annonser dyka upp även på seriösa sajter.

Falska webbsidor och nätbutiker är ett vanligt sätt för bedragare att sälja på oss piratkopior eller lura oss på kortuppgifter och lösenord. Sajterna kan vara kopior av banker och myndigheters webbplatser – eller helt påhittade bluffsajter som ser äkta ut.

Förut gick sådana sidor ofta att avslöja genom dåligt språk eller slarvig design, men med hjälp av generativ AI kan bedragare snabbt skapa trovärdiga webbsidor med korrekt språk och proffsigt utseende.

AI kan också användas för att skapa falska kundtjänster med chattbotar som svarar på frågor, vilket gör bluffsajterna ännu mer trovärdiga.

Kom ihåg: En snygg webbsida är ingen garanti för att den är äkta. Kontrollera alltid att du verkligen är på den sida du tror att du besöker – och sök efter omdömen om sajten är okänd för dig sedan tidigare.

Ett romansbedrägeri är när en bedragare inleder en relation och låtsas vara kär för att lura någon på pengar. Det börjar ofta på sociala medier eller dejtingplattformar, där bedragaren använder en falsk profil.

Tidigare behövde romansbedragare stjäla bilder till sin påhittade profil och lägga mycket tid på att få den att verka trovärdig. Med hjälp av AI kan de nu skapa egna fotorealistiska bilder, videor och inlägg som gör profilen mer övertygande.

Förr undvek romansbedragare gärna videosamtal eftersom den falska profilen inte gick att visa upp i verkligheten. I dag kan de använda AI så att den påhittade personen kan delta i videosamtal.

Kom ihåg: Skicka inte pengar till någon som du bara har kontakt med på nätet.

Det kan kännas både hopplöst och otäckt att bedragare kan använda generativ AI för att göra sina bluffar mer trovärdiga.

Men det betyder inte att vi ska gå runt och vara oroliga hela tiden. Med kunskap om hur tekniken kan användas i bedrägerier – och ett sunt mått av misstänksamhet – har vi ett bra grundläggande skydd mot att bli lurade.

Tips! I slutet av den här kursen hittar du länkar till fler kurser, som går igenom hur du kan skydda dig mot vanliga bedrägerier.

• Felfritt språk: AI gör det enklare att skriva på perfekt svenska i bluffmejl och bluff-sms.
• Klonade röster: Telefonbedragarna kan låta som en familjemedlem, vän eller chef.
• Fejkade videosamtal: AI kan efterlikna en persons utseende, röst och rörelser för falska videosamtal.
• Falska kändisvideos: Kändisar kan se ut att rekommendera varor och tjänster i bluffannonser.
• Förfalskade webbsidor: AI kan skapa proffsiga sajter och även erbjuda falsk kundtjänst med hjälp av chattbotar.
• Romansbedrägerier: Med hjälp av AI kan bedragarna skapa inlägg, fotorealistiska bilder och videor som gör falska profiler mer trovärdiga.