Neonazis usam IA para engajar no TikTok

Neonazistas estão usando a inteligência artificial generativa para conquistar seguidores, engajamento e o algoritmo do TikTok, aponta estudo do Institute for Strategic Dialogue (ISD). Além da criação de imagens que reforçam esteriótipos e preconceitos, outro uso é a tradução de discursos de figuras como Adolf Hitler.

Segundo o relatório, os usuários também usam áudios específicos para agrupar vídeos, facilitar a busca e recrutar e militantes. Sete vídeos com uma música associada ao massacre de Christchurch, Nova Zelândia, conseguiram coletivamente 1,5 milhão de visualizações.

Discurso de Hitler alterado com IA viraliza no X

Em ambas as publicações, há comentários antissemitas, de apologia ao nazismo e conspiracionistas. Todos os comportamentos violam as políticas do X sobre “conduta odiosa”.

Núcleo JornalismoSofia Schurig

Os conteúdos publicados pela comunidade contém referências a Hitler, além de frases explicitamente antissemitas, o que deveria ser flagrado pelo algoritmo de moderação de conteúdo da rede social chinesa. Em seu relatório, o ISD afirma que muitas das contas denunciadas ao TikTok por discurso de ódio e violações semelhantes não foram banidas.

Em janeiro.2023, o Núcleo reportou sobre como usuários brasileiros estavam glorificando ataques em escolas, massacres e outros crimes violentos contra minorias no TikTok. Entre os conteúdos analisados pela reportagem, havia posts que enalteciam conhecidos supremacistas brancos ou neonazistas.

Culto a assassinos e massacres escolares corre solto no TikTok

Vídeos que enaltecem atiradores e supremacistas brancos chegam a ter milhões de visualizações. Plataforma diz ter regras contra violência, mas algoritmo passou até a recomendar a busca por vídeos de massacres em escolas

Núcleo JornalismoSofia Schurig

Via Institute for Strategic Dialogue (em inglês)