En ny AI-algoritm ska upptäcka nakenbilder som sprids utan tillstånd. Kortfattat är tanken att den ska upptäcka den typen av foton och klipp på Facebook och Instagram – redan innan någon hunnit se dem. Med hjälp av ett digitalt "fingeravtryck" ska algoritmen rensa bort bilder oavsett om offret känner till att materialet lagts upp eller ej.

Med hjälp av den nya tekniken kan Facebook avgöra om bilden eller videon innehåller nakenhet och om innehållet har delats på "ett hämndlystet sätt". Facebook kommer dock inte personligen att kontakta de personer vars bilder plockas bort. Om en bild däremot felaktigt plockas bort kan man höra av sig till Facebook.

Pilotprojekt expanderar

När bilden är borta kan personen överklaga och då kan bilden läggas upp igen, säger Facebooks säkerhetschef Antigone Davis vid en informationsträff.

Som en del i satsningen bygger Facebook ut ett pilotprojekt som har gått ut på att användare skickat in nakenbilder till Facebook. Bilden sparas inte, men däremot en länk med vilken man skapar ett digitalt fingertryck som gör att ingen annan kan ladda upp samma bild. Metoden har hittills prövats i USA, Storbritannien, Australien och Kanada och Facebook har planer på att utöka projektet till flera länder de närmaste månaderna.

Men vi går långsamt fram, säger Antigone Davis.

Lättare att anmäla

Vidare meddelar Facebook att man lanserar en hjälpsida med bland annat information om hur man som användare kan förebygga att bilder otillåtet sprids. Det ska även bli lättare för personer som drabbas att rapportera in det till Facebook.

Målet med detta är att förse användare med stöd och de verktyg som behövs för att kunna förhindra att de drabbas eller för att stödja dem som redan blivit utsatta, säger Antigone Davis.