Cadastre-se gratuitamente nas nossas newsletters

Após discussões a portas fechadas com empresas de tecnologia, o Parlamento Europeu e o Conselho de Legisladores da União Europeia decidiram retirar a classificação de alto risco de todos os sistemas de IA que se enquadravam em uma lista predefinida de áreas críticas e casos de uso, como emprego e controle de migração.

Agora, eles introduziram uma camada adicional para garantir que soluções de IA de risco mínimo não fossem incluídas no regime mais rigoroso.

CONTEXTO. Em jun.2023, foi reportado que Sam Altman, CEO da OpenAI, estava realizando uma série de reuniões com políticos e legisladores para fazer lobby contra a primeira versão do AI Act, uma legislação destinada a regular a inteligência artificial no bloco, aprovada ainda em junho.

Na versão anterior da lei, todas as IAs de propósito geral, incluindo o ChatGPT, eram consideradas de “alto risco,” o que as submetia a requisitos legais rigorosos, como transparência, rastreabilidade e supervisão humana.

Lei de regulação sobre IA avança no Parlamento Europeu
O Ato da Inteligência Artificial é a primeira legislação europeia visando regulamentar o uso de sistemas considerados de risco, além de proteger direitos digitais, a privacidade e as liberdades civis.

MUDANÇAS. No entanto, em 2.out.2023, os legisladores debateram um texto de compromisso que introduziu três condições de filtro, onde provedores de IA poderiam considerar seus sistemas isentos da categoria de alto risco.

  • As condições se aplicam a sistemas de IA com finalidades específicas, como tarefas processuais restritas, melhoria de fatores acessórios em avaliações humanas e tarefas preparatórias;
  • Também foram incluídas salvaguardas adicionais, mantendo modelos de IA que realizam a definição de perfis como de alto risco e permitindo que autoridades nacionais monitorem sistemas não classificados como alto risco.
OpenAI fez lobby para influenciar regulação de IA na União Europeia
Documento inédito divulgado pela TIME mostra que empresa fez llobby contra classificação de alto risco para sistemas de IA na União Europeia

CONTROVÉRSIA. Os membros do Parlamento Europeu solicitaram que o serviço jurídico do parlamento emitisse um parecer jurídico sobre a solidez das condições desse novo filtro.

O parecer indicou que caberia aos desenvolvedores de IA decidir se o sistema atendia a uma das condições de filtro, introduzindo um alto grau de subjetividade que “não parece estar suficientemente enquadrado para permitir que os indivíduos verifiquem inequivocamente quais são suas obrigações.”

Via Euractiv (em inglês)

Inteligência ArtificalOpenAI
Venha para o NúcleoHub, nossa comunidade no Discord.