Duas gravações de discursos feitos pelo ditador nazista Adolf Hitler, modificada com inteligência artificial, estão viralizando no X (antigo Twitter). A ferramenta de IA foi usada para fazer com que Hitler falasse em inglês no vídeo.
Em ambas as publicações, há comentários antissemitas, de apologia ao nazismo e conspiracionistas. Todos os comportamentos violam as políticas do X sobre “conduta odiosa”.
ELEVENLABS. Um dos vídeos postados por esse usuário do X está disponível também no YouTube, segundo a revista WIRED. Na descrição, o usuário que o publicou afirma ter utilizado a tecnologia de IA para replicação de voz da startup ElevenLabs.
No início do ano, um deepfake do presidente americano Joe Biden, criado para dar golpes via telefone, foi criado com a tecnologia da ElevenLabs.
PROBLEMA. O X tem um problema claro com conteúdo antissemita, neonazista e, em geral, supremacista.
O próprio Musk foi criticado no final do ano passado por ter engajado com supremacistas brancos em meio a viralização de conteúdo extremista na plataforma. Ele visitou o Museu do Holocausto logo depois.
Diversos monitoramentos feitos por institutos que estudam extremismo e tecnologia apontam para a intensificação desse problema após Elon Musk ter comprado a rede social em 2022.
Em ago.23, anunciantes abandonaram a plataforma após terem suas publicidades exibidas ao lado de conteúdo nazista.
Via WIRED (em inglês)
