Receba nossas newsletters de graça
Nos últimos dias começaram a pipocar pelas redes sociais posts de usuários com avatares de si mesmo criados por uma inteligência artificial. A partir de uma foto enviada pelo usuário, o aplicativo Lensa usa inteligência artificial para criar outras versões desse retrato: futurístico, anime, místico, jedi.
Mas poucos se atentaram ao risco de alimentar uma inteligência artificial com fotos próprias, de amigos e até mesmo de crianças.
O Núcleo conversou com André Fernandes, diretor e fundador do IP.rec, entidade membra da Coalizão Direitos na Rede (CDR), sobre os riscos por trás de brincadeiras desse tipo.
Segundo Fernandes, o principal problema envolvendo aplicações que coletam dados biométricos - nossos rostos, por exemplo - para gerar algum tipo de produto, como imagens e montagens, é o de produzir de forma gratuita um banco de dados para uma empresa e ainda ajudar a treinar o algoritmo dessa empresa.
"Sob o pretexto de diversão, os usuários não percebem que estão legitimando um modelo de negócio que, sem uma análise detida, pode gerar danos em larga escala - especialmente com dados biométricos que são dados sensíveis no regime da LGPD", disse ao Núcleo.
Isso porque a inteligência artificial aprende à medida que é alimentada. Ou seja, ao permitir que o app use sua foto (ou até tenha acesso ao seu rolo da câmera), você está dando insumo para seu funcionamento. E ainda pagando por isso - já que o Lensa cobra a partir de R$ 16,90 para gerar esses avatares.
Rodrigo Ghedin
Fernandes alerta ainda para um problema mais amplo que é o compartilhamento da biometria facial, um dos dados mais sensíveis que temos. Esses dados, segundo ele, estão sendo usados para inúmeras finalidades escusas como classificação de humanos, rastreamento de orientação e vigilância em massa.
Não significa que os dados coletados pelo Lensa estão sendo usados para isso, mas sim que esse treinamento que nós damos ao algoritmo pode acabar sendo usado para uma finalidade que não é a que desejamos inicialmente.
O Núcleo questionou Fernandes quais seriam pontos aos quais devemos nos atentar enquanto usuários desse tipo de app:
- O app tem uma política de uso e de privacidade?
- Quais dados são coletados e para que finalidade? Isso está explícito?
- Qual é o fundamento dessa coleta e tratamento de dados?
"Nem tudo está relacionado com consentimento, muitas vezes usa-se do “legítimo interesse” para fundamentar uma coleta e uso de dados pessoais, mas é preciso ter em mente que esses fundamentos exigem certas contrapartidas que, muitas vezes, não são publicizadas pelas empresas", explicou.
No caso da política específica do Lensa, o advogado avaliou que a política de privacidade é relativamente boa e padrão, mas deixa margem para o compartilhamento de dados com empresas que fazem parte do mesmo grupo, sem que isso esteja explícito no texto.
Da mesma maneira, apesar de afirmarem que não tratam os dados para publicidade, eles admitem que podem compartilhar os dados com parceiros que trabalham com anúncios.
Além de Google e Amazon, cujos servidores são usados para armazenar os dados, há compartilhamento de dados com a Meta.
