Um projeto de lei apresentado em 3.set.25, o PL 4416/2025, propõe alterar a Política Nacional de Prevenção da Automutilação e do Suicídio para incluir salvaguardas obrigatórias em sistemas de inteligência artificial.
O deputado Aureo Ribeiro (SOLIDARI-RJ), autor da proposta, defende que:
"Trata-se de proposta simples, custo-baixo e alto impacto. Traz segurança aos ambientes em que as conversas já acontecem, aproxima a pessoa em crise ao apoio humano imediato, padroniza o plano de segurança e integra a informação à vigilância".
A proposta estabelece quatro salvaguardas principais para sistemas de IA acessíveis no Brasil:
- Exibir aviso claro de que o usuário não interage com um ser humano;
- detectar menções de ideação suicida por triagem estruturada aprovada pelo Ministério da Saúde;
- ativar modo de crise quando houver risco, oferecendo plano de segurança e encaminhamento ao serviço telefônico 188 do Centro de Valorização da Vida (CVV);
- abster-se de conteúdos que incentivem ou banalizem autoagressão.
Seria proibido operar ou fornecer programas de "companheiros virtuais", os sistemas de IA conversacionais, sem protocolos para lidar com ideação suicida, danos físicos ou financeiros a terceiros.
O texto também prevê que plataformas publiquem relatórios anuais com ativações de modo de crise por mil conversas, taxa de encaminhamentos efetivados e incidentes relevantes.
