A liberação, agora em dezembro, de um modo adulto nos assistentes de inteligência artificial inaugura um debate que não é apenas tecnológico, é jurídico, ético e social. Pela primeira vez, grandes plataformas passarão a permitir conteúdo erótico mediado por sistemas de IA, exclusivo para usuários adultos verificados. Essa mudança, que pode parecer apenas uma atualização funcional, na verdade reabre discussões profundas sobre autonomia, consentimento, privacidade e os limites da responsabilidade das empresas que operam esses sistemas.

Nos últimos anos, a popularização acelerada da IA generativa colocou em evidência dilemas que já vinham sendo anunciados, mas nunca enfrentados com a urgência necessária. A entrada oficial dessas plataformas no terreno do conteúdo adulto escancara a necessidade de normas mais claras, transparência algorítmica e mecanismos sólidos para evitar abusos e violações de direitos.

Liberdade de expressão e o desafio da moderação de conteúdo sensível

A discussão começa pela própria natureza da medida. Embora o conteúdo adulto seja lícito e protegido pela liberdade de expressão, ele exige controles específicos, especialmente quando mediado por tecnologia capaz de criar imagens, diálogos e simulações altamente realistas.

O ponto sensível está na fronteira entre autonomia do usuário e responsabilidade das plataformas. A permissão do modo adulto não elimina o dever das empresas de impedir o uso para criar material ilegal, como deepfakes não consentidos, conteúdos envolvendo menores ou representações difamatórias. O risco de danos à dignidade, à imagem e à privacidade é exponencial nesse tipo de tecnologia.

Ao mesmo tempo, a decisão reacende o debate sobre a chamada “moderação impossível”: como garantir, em escala global, que apenas usuários devidamente verificados terão acesso ao modo adulto? Como assegurar que sistemas treinados para gerar conteúdo erótico não sejam explorados para práticas ilícitas?

Privacidade, consentimento e os limites jurídicos da inovação

O ponto mais delicado envolve a proteção de dados sensíveis. O modo adulto pressupõe que as plataformas manterão registros de idade, identidade e preferências de consumo e informações que, se vazadas, podem causar danos irreparáveis.

Além disso, a tecnologia de geração de imagens e vídeos coloca em xeque o próprio conceito de consentimento. A criação de deepfakes de pessoas reais, ainda que sem nudez explícita, já motivou ações judiciais no mundo todo. Com um modo adulto liberado, o risco de uso não consentido se multiplica.

Também surge uma questão fundamental: até que ponto a liberdade de criação da IA pode ser usada como argumento para afastar a responsabilidade das plataformas? O fato de o conteúdo ser gerado por um algoritmo não exime as empresas de responderem por violações de direitos da personalidade.

A linha tênue entre inovação e abuso

A legalidade da liberação do modo adulto não significa que sua implementação será simples. Assim como no debate sobre biografias ou representações audiovisuais de casos reais, o perigo não está na existência do conteúdo, mas na forma como ele é produzido, acessado e utilizado.

A inovação é bem-vinda, mas não pode se sobrepor à dignidade humana. A IA não pode ser um terreno sem lei, especialmente quando toca temas tão sensíveis como sexualidade, privacidade e identidade digital.

O desafio agora é encontrar o equilíbrio e permitir que adultos acessem o conteúdo que desejam, sem abrir brechas para violações de direitos, vazamento de dados ou práticas criminosas. A tecnologia evoluiu rápido demais; a legislação ainda tenta alcançá-la.

A forma como essa liberação será conduzida servirá como teste para o futuro da regulação de IA no Brasil e no mundo. É uma oportunidade e um alerta.

*Mariana Moreti é advogada, sócia-fundadora da Balconi Moreti Advocacia, mestre em Propriedade Intelectual e Transferência de Tecnologia pelo PROFNIT/UEM, certificada nacional e internacionalmente em inovação e Propriedade Intelectual, além de presidir a Comissão de Direito do Entretenimento e Autoral da OAB-PR, subseção Londrina.