Cadastre-se gratuitamente nas nossas newsletters
⚠️
Esta reportagem contém descrição de posts violentos e pode ser sensível para algumas pessoas. Não há imagens com violência gráfica.

Uma rede social alternativa utilizada para fazer apologia à violência e incentivar massacres escolares tem proeminente indexação no mecanismo de busca do Google – apesar de mostrar como "assunto do momento", diretamente em sua página inicial, saudações nazistas e referências a ataques.

A rede, cujo nome é ocultado pelo Núcleo para não dar publicidade a esse tipo de plataforma, ainda é bem pequena (com cerca de 170 usuários). Mas está sendo ativamente utilizada por pessoas que foram banidas do Twitter para compartilhar posts contendo apologia à violência em escolas e até fabricação de armamentos.

Em resposta a um pedido de posicionamento feito pelo Núcleo, o Google informou que seus sistemas são projetados "para evitar expor as pessoas a conteúdo odioso e prejudicial", acrescentando que "o fato de uma página estar em nosso índice de pesquisa não significa que ela está classificada com destaque".

De fato não há nenhuma sinalização de que o site seja deliberadamente destacado pelo Google, como acontece com sites maiores – tipo a Wikipedia, páginas do governo, veículos de notícia, grandes empresas etc.

Print de tela do Google mostra rede social em primeiro lugar após busca com apenas dois termos
Print de tela do Google mostra rede social em primeiro lugar após busca com apenas dois termos

No entanto, o resultado da busca pela rede extremista tampouco parece rebaixado. Ao procurar pelo título da rede social, o site fica no topo da busca. Ao buscar pelos termos do domínio (tipo https://nome.sufixo), é o quarto resultado.

Além disso, o Google foi uma das empresas presentes em reunião com membros do governo dia 10.abr.2023 para discutir conteúdo sobre apologia a massacres escolares, junto a Twitter, Meta, WhatsApp, TikTok e Kwai – ou seja, estava ciente de potenciais problemas e termos associados a esse tipo de violência.

Resposta do Google (íntegra)

Incitações à violência são repugnantes e, embora os mecanismos de pesquisa permitam que as pessoas encontrem páginas disponíveis na web aberta, projetamos nossos sistemas de classificação de pesquisa para evitar expor as pessoas a conteúdo odioso e prejudicial. O fato de uma página estar em nosso índice de pesquisa não significa que ela está classificada com destaque, e trabalhamos muito para impedir que conteúdo de baixa qualidade seja distribuído por meio da Busca. Embora estejamos comprometidos em fornecer acesso aberto à informação, também temos a preocupação em proteger nossos usuários. Além disso, quando recebemos solicitações legais válidas, nos termos da legislação aplicável, agimos de acordo para remover o conteúdo.

É impossível para a empresa de tecnologia prever a criação desses sites e fiscalizar seu conteúdo, ainda mais se forem pequenos e exigirem cadastro.

Mas o problema da indexação automática do Google (ou seja, seu próprio funcionamento) é que pessoas com bons conhecimento e ferramentas de SEO podem "explorar" o sistema e alavancar praticamente qualquer tipo de site, facilitando muito a descoberta de conteúdos danosos como esse antes que a plataforma possa perceber.

🗨️
SEO (search engine optimization) é o conjunto de são parâmetros e técnicas criados pelo Google e outros buscadores para aumentar a classificação na indexação de sites. Quanto mais os sites aderem a esses parâmetros, mais perto ficam dos principais resultados e de ganhar mais visitantes.

O Google tem o poder de suprimir e "enterrar" resultados de buscas, como fez com conteúdos de hesitação vacinal durante a pandemia, sobre assuntos como negação do holocausto, conteúdo para produção de armamentos e bombas e até mesmo com alguns fóruns sociais extremistas.

"Quando recebemos solicitações legais válidas, nos termos da legislação aplicável, agimos de acordo para remover o conteúdo", disse o Google em nota.

A tecnologia por trás da rede social é o Wo Wonder, desenvolvido por uma empresa da Turquia, que custa a partir de US$165 (cerca de R$830). O código do app é otimizado para buscas.

A rede aceita cadastros que utilizam autenticação via Twitter e Discord — essas empresas (e muitas outras plataformas digitais) fornecem abertamente suas APIs para esse tipo de cadastro.

Print de página inicial da rede social, mostrando "assuntos do momento". O Núcleo ocultou o nome e outras formas de identificação da página para que não seja encontrada em busca do Google.
Print de página inicial da rede social, mostrando "assuntos do momento". O Núcleo ocultou o nome e outras formas de identificação da página para que não seja encontrada em busca do Google.
🔎
COMO FUNCIONA A BUSCA NO GOOGLE
Depois de rastrear páginas na Internet, o Google faz o processo de indexação, que inclui o processamento e análise do conteúdo em texto e das tags e atributos do conteúdo. A etapa final é a exibição do resultado -- que é o que nós usuários vemos quando buscamos por algo no Google. Nessa etapa, o Google busca dentro do seu índice de páginas (algo como um banco de dados gigantesco com milhões de páginas da internet) e entrega os resultados mais relevantes e de qualidade. A relevância é medida por uma combinação de dezenas de fatores, como localização, idioma e dispositivo do usuário. (Ref.)

Coincidências

O domínio da plataforma foi registrado em setembro de 2022. A rede, no entanto, só se tornou ativa em 12.abr.2023.

Essa data coincide com a derrubada de perfis de apologia aos ataques por conta cerco do governo federal sobre as plataformas, após atentados em escolas em São Paulo (27.mar.2023) e em Blumenau (5.abr) terem deixado cinco mortos (inclusive quatro crianças) e gerado uma enxurrada de grotescos posts de apoio em várias redes, mais notoriamente o Twitter.

Perfis que tiveram suas contas suspensas no Twitter agora estão usando esta nova plataforma com os mesmos nomes de usuário, além de fotos de perfil. O Núcleo já havia mostrado que muitos usuários da comunidade do Twitter que glorificam ataques em escolas e os autores desses ataques estavam migrando para outras plataformas, como esta.

O Núcleo foi alertado para a existência dessa rede pelas pesquisadoras independentes Tatiana Azevedo e Letícia Oliveira.

Sem moderação, Twitter tolera apoio a massacres escolares
Comunidade que exalta assassinos e massacres também usa rede social para tentar formar “duplas” para novos atos de violência

Termos de (des)uso

Os termos de uso da plataforma afirmam que todo conteúdo publicado é de responsabilidade do usuário, parafraseando o artigo 19 do Marco Civil da Internet. “Certifique-se de que seu conteúdo não viole os direitos autorais, marcas registradas, privacidade, segurança ou quaisquer outros direitos de terceiros. Não compartilhe informações falsas ou enganosas”, diz o texto.

O texto afirma ser importante “manter um ambiente respeitoso e amigável” na rede social, proibindo, ainda, “o uso de linguagem ofensiva, insultos, assédio, intimidação, discriminação ou qualquer outra forma de comportamento inadequado”.

Apesar desse código de comunidade (provavelmente copiado de algum outro lugar), a realidade é outra: não há quaisquer restrições a conteúdos lá publicados.

O Núcleo observou que um dos supostos moderadores da rede não somente incentiva os crimes como chegou a doar R$22 para uma vaquinha que pretendia financiar um suposto ataque em uma escola.

Violência aberta

“Se vocês sofrem, SIMPLES: MATEM ESSES FILHOS DA PUTA!”, diz um texto publicado no blog de um dos usuários da plataforma onde o autor, sob pseudônimo, incita e justifica ataques em escolas motivados pelo bullying.

Uma análise do Núcleo revelou a presença de vários posts que glorificam ataques em escolas e compartilham vídeos sobre a fabricação de armas caseiras, além de elogios ao neofascismo, neonazismo e ao Estado Islâmico (ISIS).

Um dos posts analisados pelo Núcleo mostra um vídeo do YouTube que ensina a fazer armamento caseiro – o que é proibido pelas regras da plataforma de vídeos do Google.

Reprodução de tela com post que mostra armamento caseiro.
Reprodução de tela com post que mostra armamento caseiro.

Desde 12.abr, usuários também estão publicando fotos de si mesmos com máscaras de caveira, um símbolo da supremacia branca comumente associado a autores de ataques em escolas. Não é possível confirmar se as pessoas nas fotos são de fato os usuários que as publicaram.

Outros usuários estão em busca de duplas para supostos ataques, em estados como Rio de Janeiro e Rio Grande do Sul. Autoridades brasileiras de combate ao extremismo afirmam, em relação a casos anteriores, que autores desses crimes costumam agir em duplas com pessoas que conhecem pela internet.

Ajude o Núcleo a fazer investigações relevantes. Custa apenas R$10.

Além da celebração do neofascismo, os usuários também elogiam outros espaços extremistas online, como o fórum Dogolochan, que esteve envolvido em ameaças a políticos, escolas e universidades. Os autores do massacre de Suzano supostamente eram usuários do fórum, desativado desde 2018.

Apesar de toda a agitação, os próprios usuários consideram difícil que a plataforma permaneça sem infiltrados ou não receba notificações judiciais obrigando a suspensão de conteúdo. Um dos supostos moderadores chegou a indicar que os usuários usassem VPN para acessar o site, uma vez que isso dificultaria a descoberta de suas identidades.

“isso ai por enquanto a barra da limpa”, escreveu um usuário.

O Núcleo registrou a rede social no canal de denúncias criado pelo Ministério da Justiça.

Reportagem Sofia Schurig e Laís Martins
Colaboração Michel Gomes e Lucas Lago
Edição Sérgio Spagnuolo

Texto atualizado às 23h18 de 19.abr.2023 para incluir posicionamento do Google.

GoogleTwitter/XDiscordYouTube
Acesse o NúcleoHub, nossa comunidade no Discord.