O Kwai deixa sem a devida moderação vídeos, comentários e perfis que sexualizam crianças e adolescentes – proliferando a distribuição desse tipo de conteúdo para cada vez mais usuários na rede. Essa negligência permite que a plataforma seja usada como um meio de divulgação para conteúdos explícitos de abuso sexual de menores e ponto de encontro para aqueles que se interessam por esse tipo de material.
Para chegar a essa conclusão, o Núcleo usou a rede social por meio de dois perfis diferentes ao longo de dois meses – com uma terceira rodada de testes feita usando o Kwai sem contas logadas. Em jul.2023, já havíamos reportado um cenário parecido na plataforma, que segue sem solução e parece ter se agravado.
É ✷ importante ✷ porque...
A falta de moderação do Kwai faz com que o conteúdo impróprio seja distribuído para cada vez mais pessoas e promove o uso da rede social como ponto de encontro para interessados em materiais do tipo
Denúncia enviada ao MPF diz que Kwai estaria promovendo conteúdos irregulares para "angariar seguidores, cliques e engajamento", o que incluiria a exposição indevida de menores
Patrocinador do Big Brother Brasil 24, o Kwai diz ter 48 milhões de usuários no Brasil
Aos recém chegados no aplicativo, a rede social exibe vídeos sexualmente sugestivos de influenciadoras mirins em contextos de duplo sentido, que opera como uma primeira camada de materiais abusivos que vão ficando mais explícitos à medida que o uso da plataforma se intensifica.
Conforme os testes do Núcleo avançaram, em um dado momento, o próprio Kwai passou a fazer recomendações que nos levaram a caixas de comentários contendo links para conteúdos abusivos de adolescentes em cenas de sexo explícito ou perfis que divulgavam a venda e troca de materiais de exploração sexual infantil.
Hoje, a plataforma é investigada pelo Ministério Público Federal (MPF) em um inquérito civil instaurado em 18.jan.2024. Uma das suspeitas é que o Kwai teria financiado a produção de conteúdos com violência contra mulheres e a exposição indevida de crianças e adolescentes para serem veiculados na rede social.
Entenda o inquérito aberto pelo MPF contra o Kwai
Uma denúncia que contém relatos de ex-funcionários do Kwai enviada ao órgão narra que, em busca por "angariar seguidores, cliques e engajamento" para a plataforma no Brasil, a rede social tem adotado uma série de táticas anti-éticas que envolvem desde o financiamento de desinformação até a criação de perfis falsos de autoridades.
A apuração segue três linhas: investiga a suposta criação de perfis falsos de órgãos e autoridades públicas brasileiras no Kwai, como se fossem páginas oficiais; a produção e circulação de notícias falsas na rede social, sobretudo durante a eleição de 2022, com a finalidade de aumentar audiência; e a veiculação de vídeos contendo atos de violência contra mulheres e exposição indevida de crianças e adolescentes.
Segundo um dos trechos da denúncia enviada ao MPF, os próprios sistemas, times de engenharia do Kwai e seus prestadores de serviço "conceberam, criaram, disponibilizam e impulsionaram centenas (talvez milhares ou milhões) de memes e vídeos contendo cenas de violência contra mulher, apologias a essa violência, cenas de danças com menores, alguns com potencial sexualização de menores de idade, menores associados a diálogos e falas impróprias e sexualizadas".
Ex-funcionários acusam a plataforma de fazer isso na busca por "angariar seguidores, cliques e engajamento", de acordo com denúncia enviada ao MPF. Na avaliação do advogado Thiago Tavares, diretor-presidente da Safernet, ONG que combate crimes na internet, o algoritmo do Kwai pode estar orientado "para atribuir relevância a esse tipo de conteúdo".
"O propósito da plataforma é reter a audiência do usuário e para isso eles podem estar dispostos a parametrizar o algoritmo com critérios pouco ou nada éticos", diz Tavares. "Isso é problemático porque induz a uma mudança de comportamento em que a sociedade passa a naturalizar atos sexuais ou sexualmente sugestivos envolvendo crianças".
Uma reportagem publicada pela revista piauí no início de janeiro trouxe mais elementos à denúncia encaminhada ao MPF, sobretudo no que se refere ao financiamento de notícias falsas, segundo a portaria de instauração do inquérito civil.
O Kwai exibe vídeos curtos em sequência, selecionados conforme o que a rede social identifica como interesse do usuário, modelo próximo ao do TikTok. O app também tem uma página de games e outra de e-commerce e promove "desafios" que prometem dinheiro aos usuários. Em 15 de janeiro, por exemplo, o Kwai disse que distribuiria R$ 10 mil aos usuários que obtivessem as maiores pontuações em um game de futebol. O app também dá "moedas" como recompensa a usuários que baterem "metas de visualização" e que podem ser trocadas por dinheiro. Quem cumpre os objetivos diários do aplicativo, por exemplo, ganha R$ 0,20 ao dia.
Negligência grave
Identificamos, por exemplo, links para imagens de sexo explícito de uma suposta adolescente que circulam livres em caixas de comentários do Kwai desde jul.2022. Uma das postagens incluía uma foto da menor com a frase "mds tropa a menina se matou..." e o link para o conteúdo abusivo na legenda.
Enviamos ao Kwai um dos vídeos que continham esse link e qual o termo de busca que retornava referências às imagens abusivas. A rede social derrubou o vídeo que enviamos, mas deixou a busca intocada, o que mantém no ar ao menos cinco conteúdos que distribuem esse material e somam mais de 35 mil visualizações.
Ainda que esse conteúdo esteja no ar há quase dois anos, o Kwai nos disse contar com "mecanismos de segurança que operam 24 horas por dia, combinando análise humana e inteligência artificial para identificar e remover rapidamente conteúdos impróprios", que violem as diretrizes de comunidade da plataforma.
Quais são as diretrizes da comunidade do Kwai?
As diretrizes da comunidade do Kwai, em tese, proíbem a exibição de "menores com comportamento sexualmente sugestivo para gratificação sexual", a realização de "comentários sexuais indesejados e inapropriados dirigidos a menores" e a promoção e divulgação de "material de abuso sexual infantil".
O desrespeito às próprias regras, no entanto, parece a norma para a plataforma. Uma reportagem da revista piauí, por exemplo, revelou que a própria plataforma estaria promovendo conteúdos ilegais, desde desinformação à exposição indevida de menores, que vão contra as suas próprias regras.
Ao longo do uso do aplicativo, identificamos que sequer os anúncios do Kwai estão de acordo com suas diretrizes. A rede social proíbe a promoção de jogos de azar, mas por lá vimos desde publi de jogo do tigrinho até à da bet do Luva de Pedreiro. Ela também veda a promoção da "solicitação sexual, remunerada ou não, incluindo prostituição, oferecimento ou procura de serviços de acompanhantes", mas recebemos anúncios de dois aplicativos de chats e encontros que se enquadram nessa vedação.
O que o Kwai respondeu ao Núcleo
Em nota enviada ao Núcleo em 22 jan. 2024:
O Kwai não produz conteúdo e não compactua com qualquer temática que prejudique a integridade de seus usuários. Assim, agradecemos e analisamos todas as denúncias recebidas em nossos canais e via imprensa - e removemos imediatamente qualquer conteúdo que viole as Diretrizes da Comunidade.
A plataforma reitera que está em constante evolução, sempre buscando novas formas de melhorar seus mecanismos e políticas para garantir um ambiente digital cada vez mais seguro e saudável para todos os usuários. Por isso, o Kwai oferece recursos de denúncia, permitindo aos usuários relatar comportamentos e vídeos inadequados, e conta com mecanismos de segurança que operam 24 horas por dia, combinando análise humana e inteligência artificial para identificar e remover rapidamente tais conteúdos impróprios.
Também verificamos regularmente a segurança da ferramenta de buscas, para prevenir a presença de conteúdos que violem as políticas do aplicativo.
Para denunciar um perfil, basta entrar no perfil que pretende denunciar e clicar nos três pontos que estão no canto superior direito da tela. Em seguida, selecione a opção "Denunciar" e escolha o motivo. Para denunciar um vídeo, o usuário pode seguir duas abordagens. Primeiramente, ao acessar o vídeo desejado, pode clicar no ícone de compartilhamento, selecionar a opção "Denunciar" e escolher o motivo. Outra forma, é manter pressionado o vídeo, o que resultará na aparição da opção "Denunciar". Em seguida, basta selecionar o motivo para a denúncia.
É REAL, INFELIZMENTE. A plataforma também nos exibiu vídeos em que, nas caixas de comentários, perfis anunciam a troca e venda de conteúdos de exploração sexual de menores.
Para confirmar que os anúncios eram reais, a reportagem curtiu o anúncio de um deles e enviou um emoji de saudação no chat de mensagens diretas entre usuários (DM) disponibilizado pela rede social. Ele nos respondeu com um link para um vídeo em um site pornô que continha imagens de exploração sexual de menores.
Em nov.2023, o próprio Kwai já havia nos exibido um vídeo que incluía nudez infantil dentro da plataforma – "menina de vestido rosa participa de brincadeira sem calcinha" era o texto que acompanhava as imagens. Ele foi removido ainda naquele mês após a reportagem acionar a assessoria de imprensa da rede social, mas o perfil que o compartilhou segue ativo.
MÁ SUGESTÃO. Além disso, ao longo dos testes realizados pelo Núcleo, sem que qualquer palavra fosse digitada nas buscas da plataforma, o próprio Kwai nos sugeriu pesquisas por conteúdos abusivos por meio da aba "Você pode se interessar". Uma delas foi a pesquisa "menina da garrafa pepsi link atualizado".
Inicialmente publicados em fevereiro de 2022, quatro vídeos que estão no topo dos resultados dessa busca acumulam mais de 50 mil visualizações. São tutoriais sobre como acessar um suposto vídeo de uma adolescente de 13 anos "sentando" em uma garrafa. Os links para o material, contudo, já foram desativados.
À reportagem, a assessoria do Kwai disse que a rede social verifica "regularmente a segurança da ferramenta de buscas, para prevenir a presença de conteúdos que violem as políticas do aplicativo".
Influenciadoras mirins
No Kwai, a troca de links de conteúdos de exploração sexual infantil circula lado a lado com vídeos publicados por perfis de influenciadoras mirins, algumas com milhões de seguidores, e gravados por pais.
Eles não contém nudez, mas incluem menores em situações íntimas e sexualmente sugestivas, como chupando picolés, experimentando shorts curtos ou tomando banho em piscinas, enquanto mães e pais "comentam" as ações das filhas.
Isso evidencia a sexualização precoce e exploração desses conteúdos para algum propósito, que não está claro: é fama? Monetização? Venda de packs? Alimentar uma rede de exploração?
– Thiago Tavares, diretor-presidente da Safernet
CHILD EROTICA. Segundo Tavares, o material de influenciadoras mirins revisado pelo Núcleo se enquadra no conceito de child erotica, um gênero de imagens sugestivas de exploração infantil que servem de "isca" para materiais mais extremos.
"São conteúdos que estão em uma zona cinzenta entre a legalidade e a ilegalidade, algo fronteiriço, usado justamente para mapear interesses e atrair pessoas interessadas em conteúdo de abuso sexual infantil e direcioná-las para conteúdos explícitos", explica o diretor da Safernet.
Na plataforma, identificamos perfis que "agregam" vídeos de menores de biquíni, dançando ou em contextos sexuais. Em alguns casos, esses materiais são misturados com conteúdo de adultos. Um desses perfis acumula 46 mil seguidores e mais de 270 mil curtidas. Outro, soma 66 mil seguidores e 625 mil curtidas, e mantém playlists separadas para conteúdos de influenciadoras mirins. O vídeo mais visto dessa lista tem 112 mil visualizações e retrata uma menor em uma piscina, em um ângulo de cima para baixo, ajoelhada, em câmara lenta.
PISTAS. Nas caixas de comentários, o público se divide entre a crítica aos pais pela exposição dos filhos e o assédio sexual direcionado às adolescentes. Boa parte desse conteúdo está publicado em hashtags virais, sem relação direta com temas sexuais.
A advogada Alice Lana, consultora da Coalizão Direitos na Rede e especialista em direito digital e gênero, diz que nem todo conteúdo precisa ser explícito para ser ofensivo a crianças e adolescentes.
Há um contexto de "pistas": quem vê e recebe o conteúdo, qual o tipo de comentário recebido, a reação das pessoas e se um contexto que sexualiza a menor é reiterado. "Se essas pistas mostram que o conteúdo é inapropriado, não precisamos esperar que aquilo seja explícito para ser removido pela plataforma", afirma.
Em alguns casos, por exemplo, nos rodapés dos vídeos dessas adolescentes, o próprio Kwai sugere aos usuários que busquem pelo nome delas somados aos termos "vazados", "mostrando demais" ou a um site pornô, o mesmo que hospedava o conteúdo explícito de abuso infantil que um usuário nos enviou.
Na rede social, a influenciadora mirim em questão acumula 1,2 milhão de seguidores e mais de 30 milhões de curtidas em seus vídeos.
"É como funcionam os algoritmos das plataformas: começam com conteúdos leves, vão aprofundando, espiralando e radicalizando", avalia Lana. "Isso passa também pela necessidade de mais transparência de como funcionam essas plataformas por dentro, o que, ao fim e ao cabo, trata de regulação".
Segundo o Estatuto da Criança e do Adolescente (ECA), crianças têm até "12 anos incompletos" (ou 11 anos), enquanto adolescentes são aqueles entre 12 e 17 anos. Em relação aos comentários publicados no Kwai, eventuais falas vulgares podem ser crime se direcionadas a crianças. "Convite [sexual] explícito, instigação ou mesmo tentativa de assédio é um crime que só se aplica se a vítima tiver até 12 anos incompletos", explica Tavares.
COMO FIZEMOS ISSO?
Criamos dois perfis distintos no Kwai e usamos normalmente a plataforma. No curto prazo, conteúdos sexualmente sugestivos de menores passaram a ser reiteradamente exibidos.
Em seguida, passamos a interagir com algumas dessas publicações e passamos a seguir os perfis que postavam esses vídeos. A partir daí, o próprio Kwai passou a sugerir buscas por termos associados ao abuso e exploração sexual infantil.
Após essas recomendações do próprio Kwai, começamos a testar a moderação da plataforma ao fazer buscas com termos associados a conteúdos de abuso e exploração sexual de menores e não encontramos dificuldade em localizar a troca de materiais do tipo em caixas de comentários.
No longo prazo, as contas criadas pelo Núcleo também passaram a receber trechos de conteúdos de fetiches, desde desenhos animados japoneses envolvendo sexo entre personagens infantis até podolatria.
Por fim, fizemos mais uma rodada de testes no aplicativo sem quaisquer contas logadas para confirmar esses achados e contamos qual o tempo necessário para um material que sexualiza menores aparecer.
Nessa análise, para classificar um conteúdo como sexual, consideramos o contexto do material: os comentários, as falas das mães, as roupas dos menores, as legendas e o que eles dizem ou fazem.
Durante a apuração, o Núcleo denunciou os links com conteúdo explícito ao SaferNet (conveniado ao Ministério Público Federal) e ao próprio Kwai.
Pedro Nakamura
