Una recente inchiesta del Wall Street Journal ha rivelato che la scarsa sorveglianza e gli algoritmi di raccomandazione difettosi di Instagram consentono la diffusione di materiale pedopornografico. Il sistema della piattaforma di social media facilita l’accesso a contenuti espliciti di minorenni, spesso attraverso hashtag ricercabili. Gli algoritmi promuovono inavvertitamente tali contenuti illegali, indirizzando gli utenti verso gli account che hanno questo materiale in vendita. Alcuni codici, come l’emoji di una mappa o la frase “pizza al formaggio”, sono stati utilizzati per mascherare attività illecite legate alla pedopornografia.
La scoperta involontaria di tali contenuti su Instagram può condurre gli utenti in una tana di coniglio di ulteriori raccomandazioni a causa dell’algoritmo della piattaforma. L’indagine ha rivelato le sostanziali carenze di Meta nel moderare efficacemente i casi di contenuti che indicano palesemente materiale pedopornografico. In seguito a queste inquietanti rivelazioni, Meta ha riconosciuto le proprie carenze nell’applicazione delle politiche e nella moderazione dei contenuti.
In risposta, l’azienda ha avviato una task force interna volta a combattere questo problema su Instagram. I dettagli del piano d’azione della task force, tuttavia, non sono stati resi noti. “Lo sfruttamento dei minori è un crimine orribile”, ha dichiarato un portavoce di Meta al Wall Street Journal, riconoscendo la gravità della situazione.
Negli ultimi due anni, Meta sostiene di aver smantellato 27 reti di pedofili. Eppure il problema persiste, rendendo necessarie ulteriori misure di moderazione. Di conseguenza, Meta ha iniziato a bloccare migliaia di hashtag precedentemente utilizzati per diffondere contenuti che promuovono la sessualizzazione dei bambini su Instagram.
Nell’ambito delle iniziative in corso, l’azienda starebbe sviluppando miglioramenti del sistema. Queste modifiche hanno lo scopo di evitare che gli algoritmi di Instagram favoriscano le connessioni tra i pedofili e i loro contenuti illegali, nel tentativo di limitare il contributo involontario della piattaforma a questi crimini efferati.