Modelos de linguagem de código-aberto estão sendo usados para gerar conteúdo artificialmente produzido retratando exploração sexual de menores de idade, conforme relatado pela Internet Watch Foundation (IWF), uma entidade não governamental britânica que identificou milhares de imagens desse tipo sendo comercializadas na darkweb.
O QUE ACONTECEU? Segundo a entidade, esses conteúdos são principalmente produzidos pelo modelo de código aberto chamado Stable Diffusion. Mais de 3 mil imagens foram identificadas pela organização.
- O Núcleo já reportou sobre o uso do modelo na criação artificial de nudes falsos de mulheres em fóruns brasileiros.
A IWF expressa preocupação de que as deepfakes possam desviar a atenção das agências de aplicação da lei da detecção de abusos reais e do apoio às vítimas, incluindo os menores que comercializam esse conteúdo.
Você pode registrar uma denúncia anônima para a SaferNet clicando aqui.
Em caso de suspeita de violência sexual contra menores, ligue gratuitamente para o Disque 100.
Leonardo Coelho
Via The Guardian (em inglês)
