Tvrtke društvenih medija našle su se na meti kritika jer ne čine dovoljno kako bi zaštitile maloljetnike na svojim platformama. Instagram će započeti s testiranjem novih značajki kojima je cilj “zaštititi mlade od seksualnog iznuđivanja i zloporabe intimnih slika”.
Seksualno iznuđivanje ili “sextortion” oblik je ucjene koji uključuje prisiljavanje nekoga da podijeli seksualno eksplicitne fotografije ili videozapise i njihovo korištenje za prijetnje ili iskorištavanje nekoga. Jedan od novih alata otkrit će i zamutiti slike koje sadrže golotinju i obavijestiti ljude da dobro razmisle prije nego što ih pošalju. Za sve mlađe od 18 ta će značajka biti aktivirana na Instagramu.
Kada je alat za “zaštitu golotinje” uključen, korisnici će primiti poruku koja ih poziva da “pripaze kada dijele osjetljive fotografije”. Također mogu povući već poslane fotografije koje sadrže golotinju.
Kada netko dobije golu fotografiju, ona će biti zamućena uz upozorenje da slika “može sadržavati golotinju”. Alat koristi strojno učenje kako bi analizirao sadrži li slika golotinju.
“Budući da se slike analiziraju na samom uređaju, zaštita golotinje radit će u end-to-end enkriptiranim chatovima, gdje Meta neće imati pristup tim slikama – osim ako ih netko ne odluči prijaviti nama”, Instagram, u vlasništvu Zuckerbergove Mete, rekao je u postu na blogu.
