A HuggingFace, uma popular plataforma de comunidade para compartilhamento e hospedagem de modelos de inteligência artificial, contém dezenas de aplicações que permitem a criação de deepfakes pornográficas não consensuais.
Esse tipo de repositório vai contra as política de uso da plataforma.
"EFICÁCIA". O Núcleo identificou pelo menos 20 modelos ou aplicativos na HuggingFace que permitem a criação de deepfakes sexuais sem consentimento das pessoas que podem usadas como fonte dessas imagens falsas.
Em um dos casos, a conta responsável promove uma ferramenta "focada em eficácia", oferecendo até mesmo um plano de assinatura por US$199 ao ano (cerca de R$1,2 mil).
Alguns dos modelos e apps receberam atualizações há pelo menos cinco meses. Outros foram recentemente, em 13.jan.2025.
A denúncia foi publicada originalmente no Bluesky.
NO PASSADO. Em jul.2024, o Núcleo revelou que usuários estavam criando materiais de exploração sexual infantil com IA por meio de um site que utilizava modelos da HuggingFace e da Stability AI, desenvolvedora do Stable Diffusion.
NÃO PODE. Nos seus termos de uso, a HuggingFace proíbe modelos, datasets e outras tecnologias que criem conteúdo sexual sem consentimento, além de deepfakes sexuais de menores de 18 anos.
Sérgio Spagnuolo
