Cadastre-se gratuitamente nas nossas newsletters
⚠️
Essa nota fala de conteúdo sensível, mas não possui imagens explícitas

Um perfil no Instagram que explora sexualmente vídeos de menores de idade ficou ativo por mais de dois meses na plataforma sem nenhuma moderação.

Apesar do tamanho (48,5 mil seguidores) e de diversos comentários em posts denunciando a página, ela ficou meses no ar até, pelo menos, a manhã desta quarta-feira (17.jan.2023). O primeiro post datava de 12.nov.2023.

Esse perfil, inclusive, possuía uma página reserva idêntica, com mais de 17 mil seguidores.

A Meta informou ter derrubado os perfis após contato do Núcleo por "violarem nossas políticas que proíbem conteúdos que exploram ou colocam crianças em risco, por exemplo postagens que erotizem crianças."

💡
O Núcleo ficou sabendo do perfil por conta de uma denúncia de um perfil anônimo no X/Twitter.
Print de página com 48,5 mil seguidores com conteúdos de exploração sexual infantil

PROBLEMAS NO INSTAGRAM. O Instagram foi alvo de investigação do Wall Street Journal em 2023 sobre uma ampla rede de promoção aberta de pornografia infantil nos EUA.

Pesquisadores descobrem rede de pornografia infantil no Instagram
Pesquisadores de Stanford revelaram ao Wall Street Journal que os algoritmos da rede social chegaram a promover conteúdo ilícito
Deepfakes de exploração sexual infantil começam a pipocar no Instagram
Ferramentas de IA generativa estão começando a ser usadas para criar imagens de corpos infantis e adolescentes em posições e com roupas sexualizadas
🤖
CONTEXTO

Problemas de pornografia infantil no Instagram incluem a existência de uma ampla rede de perfis que promovem e vendem conteúdo com pornografia infantil. Os criminosos utilizam "menus" de conteúdo para disfarçar a venda de material proibido e convidam compradores a encomendar itens específicos, incluindo conteúdos de abuso sexual infantil.

Investigação do Wall Street Journal aponta que o algoritmo do Instagram pode ter promovido conexões entre pedófilos e vendedores desse tipo de conteúdo, violando as regras de uso da Meta e leis federais.

A Meta reconheceu problemas com a aplicação de suas regras e criou uma força-tarefa interna para tratar das questões levantadas.

>>> Pesquisadores descobrem ampla rede de pornografia infantil no Instagram

Resumo escrito pelo nosso bot de IA, o Nuclito, e revisado por nossos editores. Saiba mais aqui.

RESPOSTA DA META. O Núcleo entrou em contato com a assessoria da Meta com as seguintes questões:

  1. Como esse tipo de perfil, com tantos seguidores, passa despercebido pela moderação do Instagram por mais de 2 meses (primeiro post de 12.nov.2023)? 
  2. Qual a política do Instagram para conteúdo sexualmente sugestivo de menores, que não chega a ser explícito mas está claramente sendo explorado de forma indevida?
  3. As séries de demissões recentes na Meta afetaram a moderação de conteúdo sobre exploração sexual infantil? 

A resposta da Meta:

“Removemos as contas por violarem nossas políticas que proíbem conteúdos que exploram ou colocam crianças em risco, por exemplo postagens que erotizem crianças. Trabalhamos de forma proativa para encontrar e remover esse tipo de material e encorajamos as pessoas a denunciá-los.Temos políticas, tecnologias e equipes especializadas focadas em eliminar interações abusivas.”

Por Sofia Schurig e Sérgio Spagnuolo
Edição Alexandre Orrico
InstagramMeta
Venha para o NúcleoHub, nossa comunidade no Discord.