Controle parental do ChatGPT reacende alerta sobre segurança digital de jovens

O recurso possibilita definir horários de acesso, bloquear imagens e conversas por voz, impedir o armazenamento de interações e restringir o uso de dados para treinamento do modelo. Também é possível receber alertas automáticos caso ocorram conversas consideradas sensíveis ou potencialmente problemáticas.

Segundo a empresa, o sistema identifica possíveis “danos potenciais” e notifica os pais por e-mail, SMS ou aplicativo, caso detecte conversas preocupantes. A OpenAI afirma que o objetivo é oferecer um ambiente mais seguro e dar suporte às famílias em situações de vulnerabilidade emocional, reconhecendo que muitos jovens recorrem à ferramenta em momentos de dificuldade.

Logo após o anúncio, o caso de Adam Raine, adolescente californiano de 16 anos, ganhou visibilidade após sua família entrar com ação judicial contra a OpenAI, acusando a empresa de ter contribuído para sua morte após meses de conversas com o ChatGPT.

O jovem, que demonstrava sinais de sofrimento emocional e falava sobre suicídio nas interações com o chatbot, morreu em abril de 2025. Segundo os advogados da família, as respostas do sistema, em vez de desestimular o ato, teriam reforçado o quadro de vulnerabilidade do adolescente.

De acordo com os documentos apresentados no processo, a OpenAI teria alterado suas políticas internas sobre temas sensíveis meses antes do ocorrido. Até 2022, o ChatGPT era orientado a encerrar qualquer conversa sobre suicídio com uma negativa direta.

A partir de 2024, a empresa passou a adotar uma postura mais aberta, permitindo que o chatbot “ouvisse e acolhesse” o usuário, mantendo o diálogo ativo. Em fevereiro de 2025, situações de automutilação e suicídio deixaram de ser classificadas como conteúdos proibidos, o que, segundo a acusação, teria criado um ambiente arriscado.

Para Fabiano Carvalho, especialista em Transformação Digital e CEO da Ikhon, a criação de ferramentas específicas para esse público mostra como é importante que o setor entenda quais são os cuidados com os hábitos de consumo do público infantojuvenil, a importância da integração desde o design das soluções, alinhado aos princípios da Lei Geral de Proteção de Dados (LGPD) e diretrizes de governança relacionados ao uso de IA.

“É um passo importante e necessário na evolução do uso da inteligência artificial na sociedade. Especialmente quando pensamos nas consequências que um eventual mau uso pode acarretar na formação do público jovem. Por isso, é essencial compreender que estes controles precisam ser vistos como parte de uma estratégia mais ampla de proteção e não como uma solução isolada”, pontua o CEO da Ikhon.

Em resposta à família de Adam Raine, a OpenAI afirmou lamentar profundamente a morte e destacou ter reforçado as medidas de segurança desde então, incluindo filtros adicionais e recomendações automáticas de apoio psicológico.

A empresa também anunciou uma mudança importante em sua política de uso: o ChatGPT deixa de atuar como um “consultor” e passa a ser oficialmente classificado como uma ferramenta educacional. Com isso, o modelo não poderá mais oferecer aconselhamento médico, jurídico ou financeiro aos seus mais de 800 milhões de usuários semanais.

A partir de agora, sua atuação se limita à explicação de conceitos e princípios gerais, sempre acompanhada da orientação para que o usuário busque a ajuda de profissionais qualificados em casos que exijam análise especializada.