Cadastre-se gratuitamente nas nossas newsletters

Em um acordo alcançado após 36 horas de negociações, parlamentares europeus finalizaram na última sexta-feira (8.dez) a AI ACT, legislação da União Europeia para regular a inteligência artificial na região.

PROIBIÇÕES. Durante as negociações, os eurodeputados concluiram que sistemas de IA podem representar uma ameaça potencial aos direitos dos cidadãos e à democracia e chegaram nas seguintes proibições:

  • sistemas de categorização biométrica que utilizam características sensíveis (por exemplo, crenças políticas, religiosas, filosóficas, orientação sexual, raça);
  • raspagem não direcionada de imagens faciais da internet ou imagens em tempo real para criar bancos de dados de reconhecimento facial;
  • reconhecimento de emoções no ambiente de trabalho e nas instituições de ensino;
  • pontuação social baseada em comportamento social ou características pessoais;
  • sistemas de IA que manipulam o comportamento humano para contornar seu livre-arbítrio;
  • IA usada para explorar as vulnerabilidades das pessoas (devido à sua idade, deficiência, situação social ou econômica).

Alguns bancos de dados, como o Clearview AI, foram completamente banidos. A Clearview oferece um sistema de reconhecimento facial amparado em uma base de dados com fotos coletadas da internet, e que já foi testada por autoridades brasileiras.

ALTO RISCO. Para sistemas de IA de alto risco, que podem causar danos significativos à saúde, segurança, direitos fundamentais, ambiente, democracia e Estado de direito, os deputados estabeleceram obrigações claras, como uma avaliação de impacto obrigatória dos direitos fundamentais.

💡
Os cidadãos da UE agora têm o direito de apresentar reclamações e exigir explicações sobre decisões influenciadas por sistemas de IA de alto risco que afetam seus direitos.

Também foi estabelecido que sistemas de IA que impactam eleições e o comportamento do eleitor são considerados de alto risco.

USO GERAL. Os sistemas de uso geral, como o ChatGPT, devem cumprir os requisitos de transparência propostos inicialmente pelo Parlamento Europeu, incluindo a elaboração de documentação técnica, a conformidade com a legislação da UE sobre direitos autorais e a divulgação de resumos detalhados sobre o conteúdo usado para treinamento.

Para os modelos de uso geral de alto impacto e risco sistêmico, existirão obrigações mais rigorosas. Se eles atenderem a critérios específicos, as empresas responsáveis deverão realizar avaliações de modelos, identificar e mitigar riscos sistêmicos, conduzir testes contraditórios, relatar incidentes graves às autoridades, garantir a cibersegurança e apresentar relatórios sobre eficiência energética.

AUTORIDADES. Órgãos públicos e forças policiais foram contemplados com diversas salvaguardas e flexibilidades específicas para a utilização de sistemas de identificação biométrica em espaços públicos, com foco na aplicação da lei. No entanto, os algoritmos de policiamento preditivo, destinados a avaliar o risco de crimes futuros com base em características pessoais, foram proibidos.

Para o uso dos sistemas biométricos em tempo real pelas forças policiais na região, serão aplicadas condições rigorosas:

  • Buscas direcionadas às vítimas, como em casos de rapto, tráfico e exploração sexual;
  • Prevenção de uma ameaça terrorista específica e iminente;
  • Localização ou identificação de uma pessoa suspeita de ter cometido crimes específicos, como terrorismo, tráfico, exploração sexual, homicídio, rapto, violação, assalto à mão armada, participação em organização criminosa ou crime ambiental.

A coleta de dados biométricos à distância será restrita à busca direcionada de pessoas condenadas ou suspeitas de crimes graves. O uso de tecnologias de reconhecimento facial por autoridades policiais não foi proibido, o que vem causando burburinho entre ativistas pela privacidade e tecnologistas europeus. Até a Anistia Internacional entrou na briga.

BUROCRACIA. O AI Act entrará em vigor dois anos após ser aprovado, mas as proibições serão aplicadas mais rapidamente, em apenas seis meses. Os requisitos para modelos de IA, órgãos de avaliação e a parte sobre governança começarão a valer um ano antes do prazo geral.

O não cumprimento das regras pode resultar em multas, mas a penalidade aplicada depende da infração cometida e do tamanho da empresa, cujos valores podem ser:

35 milhões de euros ou 7% do volume de negócios global;

7,5 milhões de euros ou 1,5% do volume de negócios.

Via Conselho Europeu e Parlamento Europeu (ambos em inglês)

Texto Sofia Schurig
Edição Alexandre Orrico
Inteligência ArtificalRegulação
Venha para o NúcleoHub, nossa comunidade no Discord.