A lojinha de aplicações GPT da OpenAI, que oferece programas criados pelos usuários e que utilizam e modificam o modelo principal de inteligência artificial da empresa, está inundada de spam e conteúdo não moderado.
No pré-lançamento, a startup disse que faria uma espécie de “triagem” dos modelos, semelhante ao processo em lojas de aplicativos tradicionais. A loja foi ao ar em jan.24.
RPG, PLÁGIO E BOTS. Uma reportagem do TechCrunch encontrou na lojinha da OpenAI modelos que:
- Geram imagens ou RPGs baseados em obras audiovisuais protegidas por direitos autorais;
- Sugerem poder criar conteúdo que dribla detectores de conteúdo de IA para produções acadêmicas (oferecendo qualidade “100% humana”);
- Se passam por pessoas ou organizações sem consentimento (a matéria encontrou bots imitando Elon Musk, Donald Trump e Leonardo DiCaprio).
No caso dos modelos que prometem contornar ferramentas de integridade acadêmica, como detectores de plágio e bots de personalidades, eles violam as políticas da loja da OpenAI.
Sobre bots que imitam pessoas, um porta-voz da empresa disse que é permitido que um bot “responda 'no estilo' de uma pessoa real específica”, desde que não se passem por eles e usem a foto da pessoa. Os casos mostrados pelo TechCrunch não seguem essas regras.
MAS… Com direitos autorais, fica complicado.
A startup afirma que não é responsável por violações desses direitos, devido à legislação americana que protege as plataformas hospedeiras de conteúdo infrator, contanto que cumpram com os requisitos legais e removam exemplos específicos quando forem solicitados.
Direitos autorais são um grande problema no campo da IA. Até a OpenAI está sendo processada por, no mínimo, quatro veículos de imprensa que buscam proteger os direitos de propriedade intelectual ligados às suas reportagens.
IA+HUMANOS. A moderação da lojinha é, aparentemente, uma combinação da revisão automática do perfil do usuário que submeteu o GPT para aprovação (verificando se houve algum aviso de conteúdo, etc.) e de avaliação humana.
Aqueles que violarem as políticas enfrentarão medidas como avisos, restrições de compartilhamento ou remoção da loja.
Via TechCrunch (em inglês)
