Så påverkar AI källkritiken på nätet
Källkritik handlar om att avgöra vad som är trovärdigt och att kunna ifrågasätta information. Med generativ AI riskerar internet att översvämmas av falsk information i en aldrig sinande mängd. Hur påverkar AI trovärdigheten hos nyhetsredaktioner och på sociala medier?
I princip alla sociala medier använder AI och algoritmer för att välja ut vilket innehåll som ska visas i just ditt flöde. Det betyder att de bilder, inlägg och nyheter som du ser på din mobil inte alls är samma som dina vänner ser. Dessutom finns det många kraftfulla AI-verktyg som enkelt kan skapa bilder, video och text och sprida på nätet. Hur kan vi veta vad som är sant och inte?
Ditt flöde är unikt
Det kallas personalisering, att ditt egna sociala medier-flöde anpassas efter just din smak. Om du gillar och klickar på bilder av gulliga katter, fina blomsterarrangemang och läckra nudelrätter, då kommer algoritmerna välja ut fler bilder av den typen. Det fungerar likadant med de poddar och ljudböcker du blir rekommenderad och de nyheter du ser på till exempel Facebook och Tiktok. Det internet som du ser är inte samma internet som andra ser.
Men allt är inte anpassat utifrån din smak. Sociala medier kan också justera algoritmerna och lyfta innehåll i ditt flöde som de tror kommer väcka reaktioner. De flesta sociala medier vill att du ska engagera dig i innehållet – klicka på en bild, dela ett inlägg eller skriva en kommentar. Och algoritmerna som styr vad som visas tränas utifrån detta.
På så vis kan algoritmer och AI-teknik fungera så att de förstärker en persons befintliga åsikter i den digitala miljön. Genom att algoritmerna väljer ut innehåll som passar vår smak och vårt beteende. Till detta ska vi också lägga till annonser, som säljs av de sociala medie-plattformarna och dyker upp i ditt flöde. Också de är utvalda för att passa dig utifrån den information som plattformen har om dig som person.
– Det är kommersiella aktörer, och de lever på annonsintäkter. Det påverkar vilket innehåll som visas, berättar Jutta Haider, professor i biblioteks- och informationsvetenskap på högskolan i Borås och docent vid Lunds universitet.
Är AI bra eller dåligt?
Hur stor andel av svenskarna tror att AI kommer att ha en övervägande positiv påverkan på samhället? Hur många tror tvärtom – att AI har en negativ påverkan på samhället? Läs mer om svenskarnas attityder till AI i rapporten Svenskarna och internet 2023.
De AI-drivna algoritmer som styr innehållet på våra sociala medier är alltså en viktig del av det informationsflöde vi får. Det som kallas generativ AI är en annan del – nu finns verktyg som automatiskt kan skapa bilder och texter i ett högt tempo. Och det är inte bara på sociala medier som AI har påverkat. Även traditionella nyhetsredaktioner måste förhålla sig till den nya tekniken.
AI och journalistik
Olle Zachrison är nyhetsbeställare på Sveriges Radio och dessutom strategiskt ansvarig för AI på företaget. Han berättar att AI förändrat arbetssättet på både gott och ont.
– Rätt använt kan AI göra våra medietjänster mer relevanta för användarna. Vi kan ge bättre rekommendationer utifrån vårt innehåll, men också göra vårt material tillgängligt på ett mycket bättre sätt.
Ett exempel Olle Zachrison ger är att Sveriges Radio sedan en tid tillbaka börjat transkribera ljudmaterial och omvandla det till text, med hjälp av ett AI-verktyg. Det gör att företagets journalister kan söka i materialet, något som tidigare inte varit möjligt. I ett nästa steg undersöker SR hur transkriberat ljudmaterial ska kunna göras tillgängligt för allmänheten. Ett exempel är besökare som har olika former av hörselvariationer – då är text mycket enklare att ta del av än ljud.
Är AI-skapat innehåll ok?
En annan aspekt av AI är mer komplicerad, nämligen den publicistiska biten. Det handlar om vilken plats generativ AI ska ha inom journalistiken och inte minst den ökade risk för fejkad och falsk information, genererad av en AI.
– Vi förlitar oss på samma grundprinciper som gäller för all vår journalistik och som vi haft sedan tidigare. Det handlar om att vara vaksam med bilder som dyker upp i olika sociala flöden, göra ordentlig faktakoll och att vi måste vara säkra på vilka källorna är, berättar Olle Zachrison.
Alla måste vara medvetna om att tekniken finns och vad den kan göra.
Olle Zachrison
Sveriges Radio har upprättat ett internt AI-råd med representanter från olika delar av företaget. AI påverkar inte bara de som jobbar med publicering, utan även teknik, informationssäkerhet och juridik. En viktig del är hur man utbildar sina anställda i den nya tekniken. Olle Zachrison berättar:
– Det är jätteviktigt att öka kunskaperna inom organisationen – alla måste vara medvetna om att tekniken finns och vad den kan göra. Och att AI-funktioner nu finns inbyggda i program vi redan jobbar med, som Photoshop till exempel.
Photoshop kan skapa nytt innehåll i bilder
Photoshop är ett populärt bildbehandlingsprogram som används både professionellt och av många privatpersoner. Tillverkaren Adobe har uppdaterat programmet och lagt in AI-verktyg som till exempel kan användas för att fylla ut bilder med nytt innehåll. Om du har en stående bild som du vill göra bredare kan Photoshop alltså generera en ny bakgrund så att det matchar mot det innehåll som redan finns i bilden. Programmet kan också ändra detaljer i bilden automatiskt, till exempel byta färgen på en tröja eller generera ett helt nytt plagg.
Hur ska en nyhetsredaktion se på den typen av verktyg och användningen av det? Å ena sidan kan det verka mycket oskyldigt att använda AI för att fylla ut innehållet i en bild så att formatet passar bättre på en webbsida. Det skiljer sig kanske inte särskilt mycket från en illustration gjord av en människa, eller om en grafiker använt manuella verktyg för att klippa en bild eller byta färg på en bakgrund. Samtidigt är det ett känsligt område när det gäller nyhetsverksamhet. Enligt Olle Zachrison har SR nyligen tagit fram en första version av riktlinjer kring användning av generativ AI.
– För det första måste det alltid vara den ansvarige utgivaren som tar ställning till när och om den typen av bilder kan publiceras. För det andra måste man då vara helt transparent – det ska tydligt framgå när en bild innehåller AI-komponenter, berättar han.
Falska nyheter får snabb spridning
Den största journalistiska utmaningen är ändå när det gäller risken för falska bilder och fejkat nyhetsmaterial. En nyhetsredaktion arbetar i ett högt tempo med korta deadlines, och risken finns alltid att något blir fel.
– Det har redan hänt att vi har blivit lurade av falska AI-bilder, berättar Olle Zachrison. Då handlar det om att snabbt rätta och vara helt öppna med att det blivit fel. Det görs ibland misstag i journalistiken, men då måste vi förklara. Det handlar om att värna trovärdigheten.
Ett uppmärksammat exempel är en bild som spreds på internet i samband med ett toppmöte mellan Kinas president Xi Jinping och Rysslands president Vladimir Putin. På bilden såg det ut som att Putin knäböjde framför Xi Jinping, och detta plockades upp av SR-programmet Studio Ett och flera andra nyhetsorgan. Men bilden visade sig vara en AI-genererad förfalskning och SR publicerade en rättelse dagen efter. Läs mer på Sveriges radios webbplats.
– Generativ AI har accelererat utvecklingen. Det dyker upp mer AI-skapat innehåll generellt i medielandskapet som vi måste vara på vår vakt runt. AI kan skapa alltmer realistiska bilder, video och annat. Det är en utmaning, säger Olle Zachrison.
Uppgradering av tvivel
Påhittade historier, fejkade bilder och falska nyheter är inget nytt. Men genom generativ AI, internet och sociala medier är det alltså lättare än någonsin att sprida osanningar. Skälen kan variera – det kan handla om att skapa fejkbilder på skoj, eller så kan det finnas mer illvilliga syften bakom. Aktörer som sprider politisk desinformation och propaganda har också nu tillgång till kraftfulla AI-verktyg som kan skapa nästan vilken bild som helt på bara någon minut.
Men enligt Jutta Haider finns det ett ännu större problem. När nätet svämmas över av falsk information blir det också betydligt svårare att bevisa saker som faktiskt är sanna.
Det blir väldigt lätt att säga att saker är fabricerade.
Jutta Haider
– Det blir ett problem vid granskning av makthavare och andra personer. Om en journalist hittar dokument som visar att någon begått brott till exempel, då blir det väldigt enkelt att säga att dokumenten är förfalskade, säger hon.
Enligt Jutta Haider kan detta försvåra journalistiskens uppgift att granska makten och orsaka större spridning av konspirationsteorier. Med internet har det blivit lätt att hitta stöd för sina egna åsikter, och allt enklare att avfärda den information man inte gillar.
– Det handlar om en uppgradering av tvivel, säger Jutta Haider. Man behöver inte bevisa att någonting är falskt, det räcker att placera ut tveksamhet på olika sätt, strategiskt. Att tvivlet finns där räcker.
Även Olle Zachrison på SR håller med om att generativ AI och ny teknik kan leda till ett allmänt misstroende för all slags information. Det gäller också förtroendet för etablerade nyhetsmedier. Han säger:
– Jag tror att den risken har ökat. Ett ännu större överflöd av information och om mer sofistikerade manipulationer dyker upp, då kommer det att göra nåt med trovärdigheten rent generellt för medieinnehåll. Vi som kommer från publicistiskt seriösa medier måste bli ännu bättre på att förklara hur vi jobbar, men också se till att vi har riktlinjer så att man kan lita på innehåll som dyker upp på våra plattformar.
Källtillit behövs
Utmaningen med AI och information förstärker ett problem som funnits sedan tidigare – att mängden information är så omfattande och antalet källor i princip obegränsat. Det är omöjligt att granska dem alla som vanlig internetanvändare.
Som ett svar på detta har forskare och andra börjat tala om begreppet källtillit, som ett komplement till källkritik. Om källkritik handlar om att kritiskt bedöma en enskild artikel eller ett påstående så är källtillit snarare något som gäller för en tidning, institution, myndighet eller annan större organisation.
För att avgöra källtillit kan man till exempel titta på om organisationen är transparent i hur de jobbar, hur de själva hanterar källkritik och inte minst hur de reagerar när de gjort misstag. Läs gärna mer om detta i vår artikel Därför behöver du källtillit.
Tips för att bedöma information på nätet
- Sök runt för att hitta flera källor – säger alla samma sak, eller finns det skillnader?
- Kom ihåg att sanningen ofta är nyanserad. En del saker kan stämma delvis, men formuleras på ett sätt som inte nödvändigtvis måste vara sant.
- Tillämpa källtillit som ett komplement – försöka hitta källor som du faktiskt litar på. Välj källor utifrån om de är transparenta i hur de jobbar, hur de själva hanterar källkritik och inte minst hur de reagerar när de gjort misstag.
- Kom ihåg att ingen alltid har rätt – även källorna du litar på kan göra missar.
