Första dagen på höstterminen på skolan i spanska Almendralejo tisslades och tasslades det på skolgården. Alla pratade om nakenbilderna, som föreställde tjejer och som spridits mellan eleverna.
De hade själva inte ställt upp på några nakenbilder. I stället var det påhittade bilder som skapats med hjälp av AI, rapporterar El País. Liknande händelser har också uppmärksammats i USA.
En tidsfråga
Thomas Andersson, ansvarig för barnrättsorganisationen Ecpats hotline, säger att det är en tidsfråga innan det dyker upp i Sverige, om det inte redan sker.
– Det som kan hända är dels att man sexuellt kränker de här barnen väldigt allvarligt, dels att det här materialet kan användas som utpressning, säger han.
I åtminstone ett fall i Almendralejo krävdes en tolvårig flicka på pengar för att bilderna inte skulle spridas.
Andersson ser också en risk att barn pressas att skicka riktiga nakenbilder, för att fejkbilderna inte ska spridas.
– Om bilden är av hög kvalitet lever du med en ovisshet. Du kan stå där och säga att bilden är fejk, men du vet inte om andra tror på dig, säger han.
"Djupt problematiskt"
Kristina Hunehäll Berndtsson, universitetslektor vid Göteborgs universitet som studerar digitala sexuella trakasserier bland unga, ser samma risker. Hon har i sin forskning mött elever som manipulerat bilder från porrsidor för att få dem att se ut som någon annan person.
– Det är djupt problematiskt att AI används för att inkräkta på vår privata integritet. Nakenbilder är så oerhört djupt personligt, och ett otroligt känsligt ämne, säger hon.
Det senaste halvåret har flera gratisverktyg poppat upp på nätet, som bland annat marknadsförs med att man klär av personer på ett foto.
– Även om alla vet att det är en AI-genererad nakenbild, för den som är uthängd så kommer det fortfarande vara otroligt jobbigt, pinsamt, känsligt och privat, säger hon.
En bild räcker
Det kan räcka med en enda bild tagen framifrån, exempelvis från sociala medier, för att skapa en nakenbild, berättar Robin Elliott, enhetschef för tillämpad AI på forskningsinstitutet Rise.
Problemet med fejkade nakenbilder har tidigare drabbat bland annat kändisar och influerare, som det finns ett omfattande bildmaterial av på nätet.
– Det är ett område som gått framåt fort. De verktyg som finns har blivit bättre och bättre på att skapa från mindre och mindre data, säger Elliott.
Viktigt att anmäla
Själva nakenheten – hudfärg, kroppsformer och så vidare – lär sig AI:n att skapa genom att gå igenom mängder med riktiga avklädda bilder på nätet.
Offret kan framställas i en naturlig miljö – exempelvis hemma i tonårsrummet.
– Det blir nästan Photoshop-mässigt, fast det görs med AI, så det blir extra känsligt och skadligt för den personen, säger Elliott.
Thomas Andersson på Ecpat betonar vikten av att anmäla om man utsätts för fejkade nakenbilder, och att man pratar med de unga. Eftersom tekniken är relativt ny finns det få exempel som testats i domstol.
Spridandet av AI-generade nakenbilder skulle kunna klassas som förtal eller olaga integritetsintrång, eller till och med barnpornografibrott.
– Det behövs mer samtal kring vad som är okej. Det är oerhört viktigt att alla förstår att den som utsätts inte gjort något fel, men att den som producerar eller sprider dessa bilder kan begå ett brott, säger han.
