Nesta quinta-feira (11.mai.2023) Parlamento Europeu aprovou novas regras para a transparência e gerenciamento de riscos de sistemas de inteligência artificial na União Europeia. O "AI Act" propõe que IAs sejam supervisionadas por pessoas, seguras, transparentes, rastreáveis, não discriminatórios e não produzam danos ao meio-ambiente.
As novas regras foram aprovadas pelos Comitês de Mercado Interno e Liberdades Civis com 84 votos a favor, 7 contra e 12 abstenções.
Após a votação, os co-relatores do projeto afirmaram que o novo texto visa equilibrar a proteção dos direitos fundamentais com a necessidade de fornecer segurança jurídica às empresas e estimular a inovação na UE.
DEFINIÇÃO. A lei define sistemas de IA como "um sistema baseado em máquina projetado para operar com níveis variados de autonomia e que pode, para objetivos explícitos ou implícitos, gerar saídas como previsões, recomendações ou decisões que influenciam ambientes físicos ou virtuais".
PROPOSTAS. Os parlamentares querem uma definição uniforme para a IA, que seja tecnologicamente neutra, para poder se aplicar aos sistemas atuais e futuros. As novas regras seguem uma abordagem baseada em risco e estabelecem obrigações para provedores e usuários, dependendo do nível de risco que a IA pode gerar.
RISCOS. Os sistemas de IA que apresentarem níveis inaceitáveis de risco à segurança das pessoas serão estritamente proibidos, incluindo sistemas que usem técnicas subliminares ou manipuladoras, explorem vulnerabilidades das pessoas ou sejam usados para pontuações sociais.
Além disso, também são considerados de alto risco algoritmos de recomendação de conteúdo usados por plataformas digitais com mais de 45 milhões de usuários, alinhados com a classificação de plataformas online muito grandes pela Lei de Serviços Digitais (DSA, na sigla original).
PROIBIÇÕES. Os parlamentares acrescentaram à lista proibições de usos intrusivos e discriminatórios de sistemas de IA, como sistemas de identificação biométrica remota em tempo real em espaços publicamente acessíveis, sistemas de categorização biométrica usando características sensíveis (como gênero, raça, etnia, status de cidadania, religião, orientação política), sistemas de policiamento preditivo, entre outros.
Eles também ampliaram a classificação de áreas de alto risco para incluir danos à saúde, segurança, direitos fundamentais ou ao meio ambiente.
PESQUISA E MERCADO. Para impulsionar a inovação em IA, os parlamentares adicionaram exceções às regras para atividades de pesquisa e componentes de IA fornecidos sob licenças de código aberto. A nova lei promove "areias regulatórias", ou ambientes controlados, estabelecidos pelas autoridades públicas para testar a IA antes de sua implementação.
SOCIEDADE CIVIL. Os parlamentares também desejam fortalecer o direito dos cidadãos de apresentar reclamações sobre sistemas de IA e receber explicações de decisões baseadas em sistemas de alto risco que afetam significativamente seus direitos.
