Microsoft não quer que polícia use IA generativa para reconhecimento facial

Atualização dos termos de serviço do Azure OpenAI Service proíbem que policiais dos EUA usem a plataforma como um todo, mas proibição para reconhecimento facial vale globalmente.

A Microsoft atualizou suas políticas para proibir autoridades policiais norte-americanas de utilizarem seus serviços de inteligência artificial generativa, incluindo aqueles disponíveis na assinatura corporativa com o Azure OpenAI Service (AOS).

Forças policiais de qualquer lugar do mundo também estão proibidas de utilizar "tecnologia de reconhecimento facial em tempo real".

Reportagens da Bloomberg e do Intercept deste ano revelaram as duas empresas sugeriram seus produtos para serviços de inteligência e militares dos EUA. O DALL-E, por exemplo, foi sugerido pela Microsoft como um software que poderia auxiliar em operações bélicas.

💡
O que é AOS?
O AOS é uma plataforma da Microsoft que oferece acesso aos poderosos modelos de linguagem da OpenAI, explica a empresa neste post. Esses modelos podem ser utilizados para uma variedade de tarefas, incluindo geração de conteúdo, sumarização, compreensão de imagens, busca semântica e tradução de linguagem natural para código.

MUDOU. Uma nova versão dos termos de serviço da plataforma declaram ser proibido usar o AOS:

  • Para fins de reconhecimento facial por ou para um departamento de polícia nos Estados Unidos;
  • Para qualquer tecnologia de reconhecimento facial em tempo real em câmeras móveis usadas por qualquer aplicação de aplicação da lei globalmente para tentar identificar indivíduos em ambientes não controlados.

NA GRINGA. Essa mudança repentina vem uma semana após a revelação de que a fabricante de tecnologia e armamento para exércitos e forças policiais, Axon, anunciou um produto que utilizava o GPT-4 da OpenAI para resumir o conteúdo gravado por câmeras corporais de policiais.

O caso levantou debates sobre alucinações, discriminações e preocupações com dados sensíveis.

Via Techcrunch (em inglês)

Receba nossas newsletters e traga felicidade para sua vida.

Não perca nada: você vai receber as newsletters Garimpo (memes e atualidades), Polígono (curadoria de ciência nas redes sociais) e Prensadão (resumo semanal de tudo o que o Núcleo fez). É fácil de receber e fácil de gerenciar!
Show de bola! Verifique sua caixa de entrada e clique no link para confirmar sua inscrição.
Erro! Por favor, insira um endereço de email válido!