La surveillance laxiste et les algorithmes de recommandation défectueux d’Instagram favorisent la diffusion de matériel pédopornographique, a révélé une récente enquête du Wall Street Journal. Le système de la plateforme de médias sociaux facilite l’accès à des contenus explicites de mineurs, souvent par le biais de hashtags consultables. Les algorithmes favorisent involontairement ces contenus illégaux, en orientant les utilisateurs vers des comptes qui proposent ce matériel à la vente. Certains codes, tels que l’emoji carte ou l’expression “cheese pizza”, ont été utilisés pour dissimuler des activités illicites liées à la pédopornographie.
La découverte involontaire de ce type de contenu sur Instagram peut conduire les utilisateurs dans un trou de lapin de recommandations supplémentaires en raison de l’algorithme de la plateforme. L’enquête a révélé que Meta n’avait pas réussi à modérer efficacement les cas de contenu indiquant ouvertement la présence de matériel pédopornographique. À la suite de ces révélations troublantes, Meta a reconnu ses lacunes en matière d’application de la politique et de modération du contenu.
En réponse, l’entreprise a mis en place un groupe de travail interne visant à lutter contre ce problème sur Instagram. Les détails du plan d’action de la task force n’ont toutefois pas été entièrement divulgués. “L’exploitation des enfants est un crime horrible”, a déclaré un porte-parole de Meta au Wall Street Journal, reconnaissant la gravité de la situation.
Au cours des deux dernières années, Meta affirme avoir démantelé 27 réseaux pédophiles. Pourtant, le problème persiste, ce qui nécessite de nouvelles mesures de modération. En conséquence, Meta a commencé à bloquer des milliers de hashtags précédemment utilisés pour propager des contenus promouvant la sexualisation des enfants sur Instagram.
Dans le cadre de ses efforts continus, l’entreprise serait en train de développer des améliorations du système. Ces modifications visent à empêcher les algorithmes d’Instagram de favoriser les connexions entre les pédophiles et leurs contenus illégaux, afin de limiter la contribution involontaire de la plateforme à ces crimes odieux.