Meta podupire novu platformu za pomoć maloljetnicima da izbrišu gole, seksualne slike s interneta

TNacionalni centar za nestalu i iskorištavanu djecu pokrenuo je platformu, koju financira Meta, kako bi pomogla djeci i tinejdžerima da uklone svoje gole ili seksualne fotografije i videozapise s društvenih medija.

Nova služba za maloljetnike, tzv Skini to dolje, predstavljen je godinu dana nakon izdavanja sličnog alata za odrasle poznatog kao StopNCII (skraćenica za non-consensual intimate imagery). Danas će Take It Down raditi samo na pet platformi koje su pristale sudjelovati: Facebook i Instagram u vlasništvu Meta, kao i Yubo, OnlyFans i Pornhub.

"Stvorili smo ovaj sustav jer se mnoga djeca suočavaju s ovakvim očajnim situacijama", rekla je predsjednica i izvršna direktorica NCMEC-a Michelle DeLaune. "Nadamo se da će djeca postati svjesna ove usluge i da će osjetiti olakšanje jer postoje alati koji pomažu u uklanjanju slika."

Način na koji društvene mreže štite djecu i tinejdžere – i gdje ne uspijevaju – pojavilo se kao glavno pitanje dvostranačke tehnološke politike u novom Kongresu i pitanje u kojem zakonodavci imaju najbolje šanse za donošenje zakona. Ipak, dug je put pred svim prijedlozima za stvaranje ili jačanje zaštitnih mjera, a s obzirom na to da nikakvi zakoni nisu neizbježni, NCMEC nastavlja djelovati kao most između internetskih tvrtki i tijela za provedbu zakona o pitanjima sigurnosti djece. U 2021. neprofitna organizacija primila je gotovo 30 milijuna savjeta iz cijele industrije o materijalima koji se odnose na očito seksualno zlostavljanje i zlostavljanje djece na njihovim platformama. Većinu su prijavile platforme u vlasništvu Mete.

Mogu koristiti maloljetne osobe i roditelji NCMEC-ov besplatni, anonimni alat za označavanje eksplicitnog materijala maloljetne osobe koji je – ili za koji misle da će biti – raširen internetom. Nakon što odaberu osjetljive fotografije ili videozapise na svom uređaju, platforma generira ekvivalent digitalnog otiska prsta te fotografije (koji se naziva "hash") koji NCMEC zatim dijeli s društvenim mrežama koje sudjeluju kako bi mogli pokušati pronaći, ograničiti ili ukloniti i nastaviti pratiti taj sadržaj.

Prema NCMEC-u, dotične fotografije ili videozapisi ne napuštaju uređaj i nitko ih ne gleda. (Hash također čini žrtve neidentificiranima i za NCMEC i za aplikaciju društvenih medija, signalizirajući samo da je slika štetna i da bi je trebalo ukloniti.) NCMEC je rekao da nije bilo poznatih kršenja njegove hash baze podataka koja bi potencijalno mogla otkriti identitet pojedinca .

Ali jedna od najvećih prepreka za ovaj napor je porast enkripcije od kraja do kraja. "Kada tehnološke tvrtke implementiraju end-to-end enkripciju, bez ugrađenih preventivnih mjera za otkrivanje poznatog materijala seksualnog zlostavljanja djece, utjecaj na sigurnost djece je poražavajući", rekao je DeLaune, predsjednik NCMEC-a, pred Senatskim odborom za pravosuđe na raspravi ovog mjeseca . Slon u sobi je da je financijski pokrovitelj i najistaknutija tvrtka uključena u Take It Down, Meta, pomicanje isječka prema enkripciji s kraja na kraj na Instagramu i Messengeru.

Kako dvije organizacije to mogu pomiriti je "pitanje od milijun dolara", rekao je potpredsjednik NCMEC-a Gavin Portnoy Forbes, uz napomenu da NCMEC još uvijek ne zna točno kakvi su Metini planovi za enkripciju i koje zaštitne mjere bi mogle biti na mjestu. (Meta je rekla da su u tijeku i da se testiraju razne značajke enkripcije na Instagramu i Messengeru.)

"Mi gradimo Take It Down za način na koji su internet i [pružatelj elektroničkih usluga] danas smješteni", rekao je Portnoy. "To je doista most koji ćemo morati prijeći kada budemo bolje razumjeli kako izgleda [Metina] end-to-end enkripcijska okolina—i postoji li svijet u kojem Take It Down može funkcionirati."

Metina globalna šefica sigurnosti, Antigone Davis, rekla je za Forbes da će "enkripcija rezultirati time da mi nećemo identificirati određene slike", ali da postaje industrijski standard u slanju poruka koji je ključan za privatnost i sigurnost korisnika. Korištenje hash tehnologije i podrška NCMEC-u na projektima kao što je ovaj jedan su od nekoliko načina na koje Meta pokušava "stvarno stati pred problem", rekla je. (Obje strane odbile su reći koliko je novca Meta dala NCMEC-u za izgradnju Take It Down.)

"Nema lijeka za rješavanje ovih problema", rekao je Davis u intervjuu, opisujući Metin pristup kao "višestruk". Osim suradnje na ovom novom sustavu usmjerenom na sprječavanje seksualnog iznuđivanja i širenja intimnih slika bez pristanka, Meta ne dopušta odraslim strancima da se povežu s maloljetnicima putem svojih značajki slanja poruka, rekla je. Također koristi klasifikatore kako bi spriječio prosljeđivanje računa i sadržaja maloljetnika odraslim korisnicima Mete koji su pokazali sumnjivo ponašanje na internetu, dodala je.

„Nadam se da će ljudi koji su imali takve slike koje je netko podijelio dok su bili mladi - roditelj koji ih je iskorištavao, druga odrasla osoba koja ih je iskorištavala, bivši dečko ili djevojka - osjećati zainteresiranima koristite ovaj alat,” rekao je Davis.

NCMEC je rekao da je pokrenuo neke 200 drugih pružatelja elektroničkih usluga koje su poslale informacije svom “CyberTipline” o pristupanju programu Take It Down. Ostaje za vidjeti tko će se još – osim male šačice igrača na društvenim mrežama koji to danas zagovaraju – uključiti. Yubo je sa svoje strane rekao da se nada da će ti rani korisnici potaknuti druge da se pridruže.

"Potrebno je više od puke vladine intervencije za ublažavanje rizika i rješavanje problema na internetu", rekao je izvršni direktor Yuba Sacha Lazimi putem e-pošte. “Svi glumci moraju odigrati svoju ulogu. … Suradnja je ključna za pronalaženje rješenja za velike izazove, stoga se nadamo da će se više platformi pridružiti inicijativi Take It Down.”

VIŠE OD FORBESAKako je TikTok Live postao 'strip klub pun 15-godišnjaka'By Alexandra S. LevineVIŠE OD FORBESAOvi TikTok računi na vidljivom mjestu skrivaju materijal o seksualnom zlostavljanju djeceBy Alexandra S. LevineVIŠE OD FORBESATikTok moderatori se obučavaju korištenjem grafičkih slika seksualnog zlostavljanja djeceBy Alexandra S. Levine