Em um acordo alcançado após 36 horas de negociações, parlamentares europeus finalizaram na última sexta-feira (8.dez) a AI ACT, legislação da União Europeia para regular a inteligência artificial na região.
PROIBIÇÕES. Durante as negociações, os eurodeputados concluiram que sistemas de IA podem representar uma ameaça potencial aos direitos dos cidadãos e à democracia e chegaram nas seguintes proibições:
- sistemas de categorização biométrica que utilizam características sensíveis (por exemplo, crenças políticas, religiosas, filosóficas, orientação sexual, raça);
- raspagem não direcionada de imagens faciais da internet ou imagens em tempo real para criar bancos de dados de reconhecimento facial;
- reconhecimento de emoções no ambiente de trabalho e nas instituições de ensino;
- pontuação social baseada em comportamento social ou características pessoais;
- sistemas de IA que manipulam o comportamento humano para contornar seu livre-arbítrio;
- IA usada para explorar as vulnerabilidades das pessoas (devido à sua idade, deficiência, situação social ou econômica).
Alguns bancos de dados, como o Clearview AI, foram completamente banidos. A Clearview oferece um sistema de reconhecimento facial amparado em uma base de dados com fotos coletadas da internet, e que já foi testada por autoridades brasileiras.
ALTO RISCO. Para sistemas de IA de alto risco, que podem causar danos significativos à saúde, segurança, direitos fundamentais, ambiente, democracia e Estado de direito, os deputados estabeleceram obrigações claras, como uma avaliação de impacto obrigatória dos direitos fundamentais.
Também foi estabelecido que sistemas de IA que impactam eleições e o comportamento do eleitor são considerados de alto risco.
USO GERAL. Os sistemas de uso geral, como o ChatGPT, devem cumprir os requisitos de transparência propostos inicialmente pelo Parlamento Europeu, incluindo a elaboração de documentação técnica, a conformidade com a legislação da UE sobre direitos autorais e a divulgação de resumos detalhados sobre o conteúdo usado para treinamento.
Para os modelos de uso geral de alto impacto e risco sistêmico, existirão obrigações mais rigorosas. Se eles atenderem a critérios específicos, as empresas responsáveis deverão realizar avaliações de modelos, identificar e mitigar riscos sistêmicos, conduzir testes contraditórios, relatar incidentes graves às autoridades, garantir a cibersegurança e apresentar relatórios sobre eficiência energética.
AUTORIDADES. Órgãos públicos e forças policiais foram contemplados com diversas salvaguardas e flexibilidades específicas para a utilização de sistemas de identificação biométrica em espaços públicos, com foco na aplicação da lei. No entanto, os algoritmos de policiamento preditivo, destinados a avaliar o risco de crimes futuros com base em características pessoais, foram proibidos.
Para o uso dos sistemas biométricos em tempo real pelas forças policiais na região, serão aplicadas condições rigorosas:
- Buscas direcionadas às vítimas, como em casos de rapto, tráfico e exploração sexual;
- Prevenção de uma ameaça terrorista específica e iminente;
- Localização ou identificação de uma pessoa suspeita de ter cometido crimes específicos, como terrorismo, tráfico, exploração sexual, homicídio, rapto, violação, assalto à mão armada, participação em organização criminosa ou crime ambiental.
A coleta de dados biométricos à distância será restrita à busca direcionada de pessoas condenadas ou suspeitas de crimes graves. O uso de tecnologias de reconhecimento facial por autoridades policiais não foi proibido, o que vem causando burburinho entre ativistas pela privacidade e tecnologistas europeus. Até a Anistia Internacional entrou na briga.
BUROCRACIA. O AI Act entrará em vigor dois anos após ser aprovado, mas as proibições serão aplicadas mais rapidamente, em apenas seis meses. Os requisitos para modelos de IA, órgãos de avaliação e a parte sobre governança começarão a valer um ano antes do prazo geral.
O não cumprimento das regras pode resultar em multas, mas a penalidade aplicada depende da infração cometida e do tamanho da empresa, cujos valores podem ser:
35 milhões de euros ou 7% do volume de negócios global;
7,5 milhões de euros ou 1,5% do volume de negócios.
Via Conselho Europeu e Parlamento Europeu (ambos em inglês)
