Un nuovo strumento online mira a restituire il controllo agli adolescenti, o alle persone che un tempo erano adolescenti, e a rimuovere da Internet immagini e video espliciti di sé stessi. Chiamato Take It Down, lo strumento è gestito dal National Center for Missing and Exploited Children e finanziato in parte da Meta Platforms, proprietaria di Facebook e Instagram.
Il sito consente a chiunque, in forma anonima e senza caricare immagini reali, di creare un’impronta digitale dell’immagine. Questa impronta (un insieme unico di numeri chiamato “hash“) viene poi inserita in un database e le aziende tecnologiche che hanno accettato di partecipare al progetto rimuovono le immagini dai loro servizi.
Come funziona Take It Down?
Le piattaforme partecipanti sono, per ora, Facebook e Instagram di Meta, OnlyFans e Pornhub, di proprietà di Mindgeek. Se l’immagine si trova su un altro sito o se viene inviata su una piattaforma criptata come WhatsApp, non verrà eliminata. Twitter e TikTok finora non si sono impegnati nel progetto. Inoltre, se qualcuno altera l’immagine originale ad esempio ritagliandola, aggiungendo un’emoji o trasformandola in un meme diventa una nuova immagine e quindi necessita di un nuovo hash.
Immagini visivamente simili, come la stessa foto con e senza filtro Instagram, avranno hashtag simili, con una differenza di un solo carattere. “Take It Down è stato creato specificamente per le persone che hanno ragione di credere che un’immagine sia già in circolazione sul Web da qualche parte, o che potrebbe esserlo”, ha dichiarato Gavin Portnoy, portavoce del NCMEC.
“Sei un adolescente e stai uscendo con qualcuno e condividi l’immagine. Oppure qualcuno ti ha estorto un’immagine e ti ha detto: ‘se non mi dai un’immagine, o un’altra immagine di te, farò X, Y, Z'”. Portnoy ha detto che gli adolescenti possono sentirsi più a loro agio nel rivolgersi a un sito piuttosto che coinvolgere le forze dell’ordine, che non sarebbero anonime, per esempio.
“Per un adolescente che non vuole quel livello di coinvolgimento, ma vuole solo sapere che è stato tolto, questo è un grosso problema”, ha detto. Il NCMEC sta assistendo a un aumento delle segnalazioni di sfruttamento online dei bambini. La CyberTipline dell’organizzazione non profit ha ricevuto 29,3 milioni di segnalazioni nel 2021, con un aumento del 35% rispetto al 2020.
Antigone Davis, responsabile globale della sicurezza di Meta, ha dichiarato che Take It Down è uno dei tanti strumenti che l’azienda utilizza per affrontare gli abusi e lo sfruttamento dei minori sulle sue piattaforme. “Oltre a sostenere lo sviluppo di questo strumento e ad avere sistemi di segnalazione e blocco sulla nostra piattaforma, facciamo anche una serie di cose diverse per cercare di prevenire questo tipo di situazioni. Per esempio, non permettiamo a adulti non collegati di inviare messaggi a minori”, ha detto.
Il sito funziona sia con immagini reali che con immagini generate dall’intelligenza artificiale e “deepfakes“, ha detto Davis. I deepfakes sono creati per sembrare persone reali che dicono o fanno cose che in realtà non hanno fatto.
Fonte: Open
