My AI kan svar på frågor men också fungera som ett slags kompis, och vi går igenom möjligheter och de olika risker som finns med Henrik Pallin, socionom och expert på ungas internetanvändning.
Snapchat, som lanserades 2011, är populärt bland unga i Sverige. Enligt Internetstiftelsens rapport Svenskarna och internet använder tre av fyra ungdomar födda på 2000-talet appen varje dag. De flesta börjar redan på mellanstadiet och fortsätter upp i gymnasiet. Appen erbjuder funktioner som meddelanden som försvinner efter en viss tid, vilket gör den attraktiv för ungdomar som söker direkt och snabb kommunikation med sina vänner.
Snapchat och MyAI
I februari 2023 introducerade Snapchat en ny funktion, MyAI, som drivs av OpenAI:s GPT-modell. MyAI är en chatbot som ligger högst upp i användarens kontaktlista och inte kan tas bort. Den fungerar likt andra AI-chattar som ChatGPT, men är speciellt anpassad för Snapchat. Barn kan ställa frågor om olika ämnen till AI:n, och även om potentialen att använda MyAI som ett verktyg för skolarbete finns, är det inte alltid den används optimalt. I stället är det vanligt att unga ställer enkla frågor till botten för att snabbt få svar till exempelvis ett prov, snarare än att använda den som ett pedagogiskt hjälpmedel.
Ett återkommande tema i diskussionen är hur AI:n kan bli en del av barns digitala vardag och i vissa fall upplevas som en vän, vilket kan vara positivt för barn som saknar fysiska vänner. Samtidigt varnar Palin föräldrar för att tro att MyAI kan ersätta mänskliga relationer. En chatbot kan aldrig fylla den sociala funktionen av en riktig vän, men den kan ändå bidra till en känsla av närhet och samhörighet.
Ett viktigt ämne som tas upp i samtalet är AI:ns relation till barns integritet. MyAI sparar all interaktion, även om meddelandena försvinner från flödet efter ett dygn, vilket innebär att data om användaren samlas in och används för att rikta annonser. Detta skapar en diskrepans mellan hur Snapchat traditionellt fungerar och den långvariga lagringen av information som sker i bakgrunden med MyAI. Det är därför viktigt att både barn och föräldrar förstår hur deras data hanteras och används, så att de kan fatta informerade beslut om sin digitala närvaro.
När AI "hallucinerar"
Ett annat kritiskt område som diskuteras är AI:s benägenhet att "hallucinera", det vill säga ge felaktiga eller påhittade svar. Detta är särskilt relevant när det handlar om frågor som kräver tillförlitliga svar, till exempel inom områden som psykisk hälsa. AI-botar tränas på stora mängder text från olika delar av världen, vilket kan leda till kulturella fördomar eller felaktiga slutsatser. Här framhålls vikten av att föräldrar lär sina barn att vara kritiska och ifrågasätta svaren de får från AI:n.
Som förälder är det avgörande att ha en grundläggande förståelse för barnens digitala värld. En av de största utmaningarna är att många föräldrar inte använder samma plattformar som sina barn, vilket gör det svårt för dem att ha insikt i vad deras barn gör online. Många föräldrar känner till Snapchat, men få använder det aktivt själva. Detta skapar ett kunskapsgap där barnen blir de som har mest koll på tekniken, vilket kan vara oroande för många föräldrar.
Henrik Palin betonar dock att det inte är teknologins fel om man inte hänger med som förälder – ansvaret ligger hos den vuxna. Det handlar om att sätta sig in i de digitala verktyg och plattformar som ens barn använder för att kunna ge dem den vägledning och stöd de behöver. Att ha regelbundna samtal med barnen om vad de gör online och hur de använder AI kan vara en viktig nyckel till att skapa en trygg och säker digital miljö för dem.
Sammanfattningsvis kan MyAI och liknande AI-teknologier erbjuda både fördelar och utmaningar för unga användare. Det är viktigt att både barn och föräldrar är medvetna om hur AI fungerar och hur den kan påverka användarnas integritet. Föräldrar behöver vara proaktiva i sitt förhållningssätt till teknologin för att kunna stötta sina barn i deras digitala liv.
