App de IA com imagens de abuso infantil sai de loja do Google

O SeaArt, aplicativo chinês que permite a geração de imagens por inteligência artificial, foi removido da loja de aplicativo do Google, a Play Store.

A remoção ocorreu poucos dias depois de uma reportagem do Núcleo, em parceria com o Pulitzer Center, revelar em 5.jun.2025 que a plataforma abrigava dezenas de conteúdos artificiais retratando cenas de abuso sexual infantil.

Além dos conteúdos violentos envolvendo menores de idade, outra reportagem expôs o uso das tecnologias de IA gratuitas da plataforma para criar deepfakes de celebridades, influenciadoras e personalidades políticas brasileiras. Entre elas, atrizes brasileiras como Paolla Oliveira e Bárbara Paes, além de influenciadoras como Belle Belinha e Martina Oliveira.

TERMOS. Após a publicação de ambas as reportagens, moderadores do servidor do Discord do SeaArt — que conta com mais de 170 mil participantes — anunciaram mudanças nas políticas relacionadas a conteúdos NSFW (Not Safe for Work, ou seja, material adulto ou de teor sexual consentido), na tentativa de coibir a criação de imagens de abuso infantil por parte dos usuários.

“Independentemente do estilo artístico ou do contexto cultural, qualquer criação, publicação ou distribuição de conteúdo que implique sexualização infantil terá tolerância zero no SeaArt”, afirmou um moderador da comunidade em 10.jun.2025.

*Captura de tela do servidor do Discord do SeaArt mostrando atualização e declaração sobre proteção às crianças no app.*

MODERAÇÃO. A mesma mensagem informou ainda a adoção de um “sistema de segurança de várias camadas”, que inclui detecção por IA em tempo real, moderação combinada entre humanos — embora o SeaArt não esclareça quantas pessoas, onde estão localizadas ou sob quais critérios atuam — e algoritmos, além de monitoramento contínuo.

TIMING. Tanto as declarações quanto as mudanças nas políticas e a moderação de conteúdo nas lojas de aplicativos ocorreram justamente após a publicação das reportagens do Núcleo.

A reportagem procurou Google e SeaArt para confirmar se as alterações podem ser publicamente atribuídas às investigações.

Após a publicação desta nota, o Google informou que o aplicativo do SeaArt na Play Store já estava passando por revisão antes das reportagens. A empresa não esclareceu quando o procedimento foi iniciado.

“Após análise, o app foi removido por violar as políticas da Google Play”, disse a assessoria. Questionado sobre quais regras foram descumpridas, o Google encaminhou links para a central de políticas da Google Play, para a política de conteúdo gerado por IA, conteúdo inadequado e conteúdo prejudicial a crianças.