Bedrägerier och bluffar på internet är tyvärr inget nytt, men med hjälp av AI kan bedragarna få nya kraftfulla vapen. Det är enklare än någonsin att förfalska bilder, röst och annan information. Hur kan man egentligen skydda sig från AI-bedrägerier?

AI, eller artificiell intelligens, är ett samlingsnamn för ny teknik som gör datorer och program smartare, bättre och kraftfullare än tidigare. Grunden för AI-teknik är det som kallas maskininlärning, ett sätt för datorprogram att träna och lära sig nytt utifrån en stor mängd data. Tack vare denna teknik finns nu språkmodeller där en dator på ett mycket övertygande sätt kan producera text som liknar det en människa skriver, eller skapa bilder, musik och mycket annat. I vår artikel Vad är AI för något? kan du läsa mer om hur AI fungerar.

Tyvärr kan den nya tekniken också användas i bedrägliga syften. AI har gett bedragare kraftfulla verktyg att använda i sin brottsliga verksamhet. Det är nu lättare än någonsin tidigare att förfalska en bild på en person, sättet de skriver på eller deras röst.

Tänk dig att din sambo ringer och ber dig att föra över pengar till ett konto. Du känner igen rösten och telefonnumret. Kanske säger din sambo att pengarna är till en insamling i era barns skolklass, eller en brådskande faktura som ni missat. Skulle du hjälpa din sambo? Ja, förmodligen.

Men det är inte din sambo som ringer. Det är en bedragare. Rösten är förfalskad och skapad av en AI. Telefonnumret är spoofat så att det ser ut att tillhöra din sambo. Kontot tillhör bedragaren och pengarna du förde över är snart försvunna. Det låter kanske som ett otroligt scenario, men den här tekniken finns redan och har börjat användas i bedrägeriförsök.

AI kan förfalska rösten

Polisen Jan Olsson är kriminalkommissarie på Nationellt it-brottscentrum. Han berättar att AI-verktyg i dag används i bedrägerier, för att göra bluffen mer trovärdig och övertygande.

– En person ringer upp och föreställer din chef, som vill ha hjälp med en snabb överföring från företagskontot. Rösten känns igen av den som tar emot samtalet. Det är alltså det klassiska vd-bedrägeriet, men med ny teknik, säger Jan Olsson.

Han berättar att flera företag har råkat ut för liknande bedrägeriförsök och att de flesta också har blivit av med pengar. Förfalskningen är mycket övertygande och det är nästan omöjligt att avslöja att det inte är ens chef som ringer på telefonen.

– Jag vet ett företag som inte gjorde överföringen men det berodde inte på att de avslöjade bluffen. Personen kände mycket väl igen sin vd som de brukade prata med dagligen. Däremot hade företaget en stenhård policy gällande större transaktioner, bland annat att man alltid själv skulle ringa upp för att göra en extra kontroll. Det var det som räddade dem i det här fallet och det är egentligen det enda skyddet som fungerar, säger Jan Olsson.

AI gör allt snabbare och enklare

Att med hjälp av AI göra en förfalskning av en person brukar kallas deepfake. Tekniken har använts i flera år både i syfte att underhålla och för att luras. Det som behövs för att göra en övertygande förfalskning är data – bilder eller videoklipp på personen man ska imitera och ljudinspelningar av rösten. Detta kan AI-verktyget använda för att skapa en förfalskning – ju mer data desto mer övertygande blir resultatet.

Därför har det i första hand varit offentliga personer som blivit utsatta. Det finns ofta mycket ljud- och videomaterial av dem på nätet som en AI kan använda. Dessutom är de mer ofta i en position med makt och inflytande, till exempel en politiker eller en vd. Det gör dem mer intressanta för en bedragare.

Enligt Jan Olsson tar det än så länge en hel del tid och resurser för att skapa en riktigt bra förfalskning. Det kräver speciell programvara och tekniska kunskaper som inte alla har. Men utvecklingen går väldigt snabbt, och verktygen blir allt enklare att använda.

Det finns deepfake-videor idag som är nästan omöjliga att avslöja med blotta ögat.

Jan Olsson

– Men det är dyrt, går långsamt att göra och är ganska komplicerat. Inom ett par år kommer det kosta en tiondel så mycket, gå tjugo gånger snabbare och vara hur lättanvänt som helst. Det är tyvärr det som väntar i framtiden, berättar Jan Olsson.

Är det verkligen ditt barn som ringer?

I takt med att tekniken blir bättre och enklare att använda lär det också bli vanligare att privatpersoner drabbas av liknande bedrägeriförsök. Idag är det till exempel relativt vanligt att en bedragare skickar ett sms och låtsas vara en persons barn. Man skriver att man skaffat en ny telefon och ber personen lägga in det nya numret i kontaktlistan. En kort tid därefter skickar bedragaren ett nytt sms och ber om pengar. Den typen av bluffar skulle kunna göras ännu mer övertygande om personen istället ringer upp och låtsas vara ens barn, med fejkad röst.

Men även text som sms och mejl går enklare att förfalska när en AI hjälper till med formuleringarna. Det finns en föreställning om att så kallade bluffmejl är enkla att avslöja – dåligt skrivna med uppenbara stavfel och direktöversatta från engelska. Men AI-baserade språkmodeller, som till exempel används i ChatGPT, gör detta ännu vassare. Idag kan en dator skapa tusentals mejl som är mycket välskrivna. Enligt Jan Olsson är det också lättare än tidigare att skapa olika varianter av mejlen beroende på vart de skickas.

– Idag kan en AI generera text som inte går att skilja från text skriven av en människa. De här bluffmejlen kan också automatiskt anpassas till svenska förhållanden och på så vis blir det ännu mer övertygande.

AI används också för att stoppa bedragare

Det är alltså en ganska dyster bild som målas upp, med förfalskade röster som inte går att avslöja från personer du känner. Hur många skulle säga nej till sin partner eller chef när de ringer på telefonen, eller till sin mamma?

– Det bästa konkreta rådet man kan ge är nog att vara sunt misstänksam. Man kan naturligtvis inte alltid misstro en person du känner som ringer dig. Men var medveten om att den här tekniken finns och försök vara uppmärksam på konstiga situationer. Särskilt om det gäller pengar eller inloggningar, säger Jan Olsson.

Samtidigt kan AI och annan ny teknik också användas för att arbeta mot bedrägerier. Teleoperatörer, internetoperatörer, banker och polisen arbetar alla för att hitta bättre sätt att avslöja falska samtal och liknande bluffar. Även de som tillverkar smarta mobiltelefoner och internettjänster måste arbeta aktivt mot bedrägerier, liksom politiker och andra styrande.

– Det är på den nivån vi måste arbeta. Det måste ställas krav på operatörerna att utveckla nya verktyg för att stoppa bedrägerier, och implementera dem utan att det kostar kunderna extra, säger Jan Olsson.

Lär känna tekniken

I en värld där det mesta går att förfalska är det dock svårt att förlita sig på tekniska lösningar för att stoppa brottslingar och bedragare. Det kommer alltid ny teknik som går att utnyttja för att komma åt känsliga uppgifter eller pengar. Redan idag är det svårt att avslöja falska videor, och ännu svårare att avslöja falska röster. Inom kort kan det vara praktiskt taget omöjligt.

Ändå tycker inte Jan Olsson att man ska försöka undvika ny teknik eller livet på internet. Det är bättre att försöka hänga med och lära sig om hur tekniken fungerar. Då blir det också lättare att vara uppmärksam på om en person man känner och litar på plötsligt kontaktar dig i en lite ovanlig situation. Använd förnuftet och försök att inte bli stressad. Det är alltid bra att ringa upp igen och göra en extra kontroll om något verkar det minsta misstänksamt.

– Jag tror särskilt många äldre riskerar att bli rädda för den här tekniken och isolera sig allt mer. Men det är egentligen precis tvärtom de borde göra – lära känna tekniken mer och använda den för att socialisera. Ju mer kunskap man har desto bättre läge är man också i om man en dag blir utsatt för något sådant här, säger Jan Olsson.