Após discussões a portas fechadas com empresas de tecnologia, o Parlamento Europeu e o Conselho de Legisladores da União Europeia decidiram retirar a classificação de alto risco de todos os sistemas de IA que se enquadravam em uma lista predefinida de áreas críticas e casos de uso, como emprego e controle de migração.
Agora, eles introduziram uma camada adicional para garantir que soluções de IA de risco mínimo não fossem incluídas no regime mais rigoroso.
CONTEXTO. Em jun.2023, foi reportado que Sam Altman, CEO da OpenAI, estava realizando uma série de reuniões com políticos e legisladores para fazer lobby contra a primeira versão do AI Act, uma legislação destinada a regular a inteligência artificial no bloco, aprovada ainda em junho.
Na versão anterior da lei, todas as IAs de propósito geral, incluindo o ChatGPT, eram consideradas de “alto risco,” o que as submetia a requisitos legais rigorosos, como transparência, rastreabilidade e supervisão humana.
Sofia Schurig
MUDANÇAS. No entanto, em 2.out.2023, os legisladores debateram um texto de compromisso que introduziu três condições de filtro, onde provedores de IA poderiam considerar seus sistemas isentos da categoria de alto risco.
- As condições se aplicam a sistemas de IA com finalidades específicas, como tarefas processuais restritas, melhoria de fatores acessórios em avaliações humanas e tarefas preparatórias;
- Também foram incluídas salvaguardas adicionais, mantendo modelos de IA que realizam a definição de perfis como de alto risco e permitindo que autoridades nacionais monitorem sistemas não classificados como alto risco.
Sofia Schurig
CONTROVÉRSIA. Os membros do Parlamento Europeu solicitaram que o serviço jurídico do parlamento emitisse um parecer jurídico sobre a solidez das condições desse novo filtro.
O parecer indicou que caberia aos desenvolvedores de IA decidir se o sistema atendia a uma das condições de filtro, introduzindo um alto grau de subjetividade que “não parece estar suficientemente enquadrado para permitir que os indivíduos verifiquem inequivocamente quais são suas obrigações.”
Via Euractiv (em inglês)
