Med bara några klick kan personer kläs av och fejkade nakenbilder kan spridas via sociala medier. Enligt forskaren Kristina Hunehäll Berndtsson finns det en stor risk att dessa bilder används bland ungdomar för att kränka eller utpressa. I Spanien och USA har liknande händelser uppmärksammats, och det förväntas att det kommer att bli ett problem även i Sverige.
Thomas Andersson från barnrättsorganisationen Ecpats hotline förklarar att det kommer att bli allvarliga konsekvenser för de barn som drabbas, både i form av sexuella övergrepp och utpressning. Det har till och med rapporterats om en tolvårig flicka som blev krävd på pengar för att förhindra spridningen av fejkade nakenbilder.
Det finns också en oro att barn kan tvingas att skicka riktiga nakenbilder för att förhindra spridningen av fejkbilderna. Kristina Hunehäll Berndtsson, universitetslektor vid Göteborgs universitet, påpekar att detta är en djupt problematisk användning av AI som inkräktar på vår privata integritet. Nakenbilder är extremt personliga och känsliga ämnen.
Det har blivit lättare att skapa fejkade nakenbilder med hjälp av AI. Det räcker med en enda bild på personen för att skapa en nakenbild, och verktygen för att skapa dessa bilder har blivit allt bättre och mer avancerade. AI lär sig att skapa nakenheten genom att analysera riktiga avklädda bilder på nätet.
Det är viktigt att anmäla om man utsätts för fejkade nakenbilder och att prata med unga om riskerna. Spridandet av fejkade nakenbilder kan klassas som förtal, olaga integritetsintrång eller till och med barnpornografibrott. Det behövs mer samtal kring vad som är acceptabelt och alla måste förstå att den som utsätts inte gjort något fel, medan den som producerar eller sprider bilderna kan begå ett brott.
Ytterligare information om AI-genererade nakenbilder finns i den medföljande faktarutan, där det beskrivs hur AI används för att skapa dessa fejkbilder och vilka varningar som har utfärdats om spridningen av sådana bilder.
