É bom pensar duas vezes antes de dar seu rosto para uma IA
Arte: Rodolfo Almeida

Fotos de avatares gerados por inteligência artificial no Lensa tomaram conta das redes nos últimos dias, mas app esconde riscos

Nos últimos dias começaram a pipocar pelas redes sociais posts de usuários com avatares de si mesmo criados por uma inteligência artificial. A partir de uma foto enviada pelo usuário, o aplicativo Lensa usa inteligência artificial para criar outras versões desse retrato: futurístico, anime, místico, jedi.

Mas poucos se atentaram ao risco de alimentar uma inteligência artificial com fotos próprias, de amigos e até mesmo de crianças.

Captura de tela mostra famosos que criaram avatares com app Lensa

O Núcleo conversou com André Fernandes, diretor e fundador do IP.rec, entidade membra da Coalizão Direitos na Rede (CDR), sobre os riscos por trás de brincadeiras desse tipo.

Segundo Fernandes, o principal problema envolvendo aplicações que coletam dados biométricos - nossos rostos, por exemplo - para gerar algum tipo de produto, como imagens e montagens, é o de produzir de forma gratuita um banco de dados para uma empresa e ainda ajudar a treinar o algoritmo dessa empresa.

"Sob o pretexto de diversão, os usuários não percebem que estão legitimando um modelo de negócio que, sem uma análise detida, pode gerar danos em larga escala - especialmente com dados biométricos que são dados sensíveis no regime da LGPD", disse ao Núcleo.

Isso porque a inteligência artificial aprende à medida que é alimentada. Ou seja, ao permitir que o app use sua foto (ou até tenha acesso ao seu rolo da câmera), você está dando insumo para seu funcionamento. E ainda pagando por isso - já que o Lensa cobra a partir de R$ 16,90 para gerar esses avatares.

Qual é a do Lensa, o app que cria avatares com inteligência artificial?
Você provavelmente já viu alguma “obra” do Lensa nas suas redes sociais.

Fernandes alerta ainda para um problema mais amplo que é o compartilhamento da biometria facial, um dos dados mais sensíveis que temos. Esses dados, segundo ele, estão sendo usados para inúmeras finalidades escusas como classificação de humanos, rastreamento de orientação e vigilância em massa.

Não significa que os dados coletados pelo Lensa estão sendo usados para isso, mas sim que esse treinamento que nós damos ao algoritmo pode acabar sendo usado para uma finalidade que não é a que desejamos inicialmente.

O Núcleo questionou Fernandes quais seriam pontos aos quais devemos nos atentar enquanto usuários desse tipo de app:

  • O app tem uma política de uso e de privacidade?
  • Quais dados são coletados e para que finalidade? Isso está explícito?
  • Qual é o fundamento dessa coleta e tratamento de dados?

"Nem tudo está relacionado com consentimento, muitas vezes usa-se do “legítimo interesse” para fundamentar uma coleta e uso de dados pessoais, mas é preciso ter em mente que esses fundamentos exigem certas contrapartidas que, muitas vezes, não são publicizadas pelas empresas", explicou.

No caso da política específica do Lensa, o advogado avaliou que a política de privacidade é relativamente boa e padrão, mas deixa margem para o compartilhamento de dados com empresas que fazem parte do mesmo grupo, sem que isso esteja explícito no texto.

Da mesma maneira, apesar de afirmarem que não tratam os dados para publicidade, eles admitem que podem compartilhar os dados com parceiros que trabalham com anúncios.

Além de Google e Amazon, cujos servidores são usados para armazenar os dados, há compartilhamento de dados com a Meta.

Reportagem Laís Martins
Arte Rodolfo Almeida
Edição Julianna Granjeia

Veja nossas publicações abertas

Você se inscreveu no Núcleo Jornalismo
Legal ter você de volta! Seu login está feito.
Ótimo! Você se inscreveu com sucesso.
Seu link expirou
Sucesso! Veja seu email para o link mágico de login. Não é preciso senha.
Por favor digite ao menos 3 caracteres 0 Resultados da busca