Num famoso conjunto de regras não oficiais da internet, a mais célebre é a de número 34: “Existe pornô disso, sem exceção.” Em outras palavras, se você é capaz de imaginar uma coisa, então já existe pornô com ela – e, se não existe ainda, “será feito”, como diz a regra seguinte. A lista não veio de um lugar qualquer: surgiu na virada do século em fóruns como o 4chan, que cristalizaram a imagem da internet como uma terra sem lei, onde tudo é permitido. Como senha e desafio, a regra 34 sugeria que, com alguma paciência e expertise, era possível encontrar qualquer tipo de conteúdo pornográfico no mundo online. Indicava que a imaginação proporcionada pelo apetite sexual humano não conhecia limites, algo que a nascente world wide web estava disposta a sanar. E que se esse mesmo conteúdo eventualmente infringisse leis, ninguém ali se importava.
Desde o fim de dezembro passado, grande parte da internet ouviu falar pela primeira vez da regra 34 e da pior forma possível, numa época em que ela pode ser levada ao pé da letra graças à inteligência artificial. Nos últimos dias de 2025, o X incorporou uma nova funcionalidade ao Grok, seu assistente de IA, que passou a ser capaz de modificar imagens a pedido dos usuários. Todas as fotos publicadas na rede social foram acrescidas de um botão “editar” disponível para qualquer um, e não apenas para o autor da postagem. Bastava orientar o robô com uma frase e pronto – dali a poucos instantes a imagem sinteticamente modificada era postada pelo Grok para quem quisesse ver.
O que veio a seguir não foi surpresa para quem já conhecia a regra 30 da famigerada lista, “Não há mulheres na internet”, que reflete a atitude misógina do ambiente em que ela se formou – se não há mulheres na internet, não é preciso respeitá-las. A avalanche de abusos machistas que assolou o X no fim do ano pode ser resumida em duas palavras, no imperativo, repetidas à exaustão nos prompts: “Make her…” (“Faça ela…”). Os pedidos feitos ao Grok incluíam fotos de mulheres famosas, mas a absoluta maioria era de mulheres comuns. “Faça ela usar biquíni”, “Faça ela se agachar de costas”, “Faça ela se lambuzar”, “Faça ela usar uma lingerie transparente”. O chabot assentia e produzia as imagens com alto grau de verossimilhança. Segundo o New York Times, em apenas nove dias o Grok gerou 1,8 milhão de fotos sexualizadas. Cerca de 6,7 mil por hora, segundo um cálculo da pesquisadora Genevieve Oh. No meio disso, havia imagens de menores de idade.
A prática de sexualizar fotos alheias usando tecnologia não é recente. Muito antes da disseminação das IAs, isso era feito com programas de edição de imagem, como o Photoshop, e até com modelagens em 3D e softwares de vídeo, o que exige diferentes habilidades e muito mais tempo. Recentemente, a inteligência artificial já havia possibilitado os deepfakes, com sites, aplicativos e bots que permitem “nudificar” (nudify, em inglês) fotos de qualquer pessoa, além de criar vídeos pornográficos com todo tipo de fetiche e posição sexual. Esses serviços, no entanto, ficavam restritos a cantos obscuros da internet, em servidores irregulares ou que pouco fazem para coibir práticas ilegais, como o Telegram, onde criminosos ganham dinheiro com isso.
A inovação do X puxou esse submundo para a superfície. Pior: normalizou os abusos. Elon Musk, o bilionário dono da rede social, fez sucessivas postagens debochando de quem fazia alarde do Grok. Gerou imagens de si mesmo vestindo biquíni e, contrariando as evidências, disse que, até onde sabia, o chatbot não havia sexualizado fotos de menores de idade. As imagens, enquanto isso, inundavam feeds mundo afora.
A pressão, no entanto, chegou a um ponto insustentável, e no dia 14 de janeiro o X anunciou que estava alterando o Grok para coibir erotizações, além de restringir a edição de imagens só para assinantes da plataforma. A medida produziu efeito, mas não resolveu completamente o problema, já que, com alguns truques e tentativas a mais, ainda era possível produzir as mesmas fotos. O resultado prático dessa mudança foi monetizar o serviço, já que para acessá-lo era preciso assinar o X. Pode-se presumir que o dinheiro não foi pouco: desde que a edição de fotos ficou disponível, a rede social bateu recorde de downloads e ficou no topo das lojas de aplicativos em vários países.
Ainda hoje, depois de um saldo de milhares de mulheres vitimadas, quem entra no X pode se deparar com perfis pedindo que o bot coloque biquínis em pessoas – e com algum sucesso. O absurdo dessa situação serviu para deixar claro, mais uma vez, como as legislações nacionais ainda patinam na hora de coibir e punir crimes cometidos no ambiente online. Alguns países, é verdade, reagiram rapidamente – caso da Indonésia e da Malásia, que no começo do ano bloquearam o acesso ao Grok. A regra geral, no entanto, foi a impotência diante de mais um limite cruzado pelas big techs.
No Brasil, em janeiro, o Ministério Público Federal, a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) fizeram uma recomendação conjunta ao X. Deram trinta dias para que a rede social criasse procedimentos rápidos e eficazes para identificação e remoção de imagens que sexualizassem pessoas reais. Determinaram também que a rede criasse um mecanismo para facilitar a denúncia desses materiais. No mês seguinte, as três entidades subiram o tom, dizendo que as providências adotadas pelo X haviam sido insuficientes e ordenando que a rede implementasse mudanças imediatamente, sob risco de ser multada. O cabo de guerra ainda está em curso. O X reclamou, recentemente, que os testes que a ANPD fez com o Grok – e que embasaram a ação – não foram compartilhados com a defesa e talvez contenham erros. A piauí entrou em contato com o X, mas não obteve resposta.
Pela lei brasileira, é crime tanto criar quanto disseminar e armazenar imagens de nudez sem consentimento das pessoas retratadas, com uma pena de prisão que vai de seis meses a um ano. O código penal brasileiro, no entanto, não tem regras específicas para deepfakes, que tendem a ser enquadrados em tipos penais mais abrangentes, como crimes contra a honra, falsidade ideológica e crimes digitais (Lei Carolina Dieckmann), que envolvem a invasão de dispositivos. Mais próxima ao problema está a lei 15.123/2025, que versa sobre violência psicológica contra a mulher e prevê que, em caso de manipulação de imagem com IA, a pena do infrator seja aumentada em 50%.
Além disso, tramita em comissões do Congresso o PL 2338/2023, que estipula um marco legal para a IA no país, o que unificaria o enquadramento dos crimes e seus autores. Há esperança de que o projeto seja votado ainda neste semestre, enquanto sofre alterações que buscam adequá-lo às mais novas crises decorrentes dessa tecnologia.
“Nudificar” a imagem de alguém com IA, além de ser simples e automático, pode causar estragos irreparáveis. Basta que a imagem da pessoa seja compartilhada uma vez, entrando no circuito incontrolável da internet. Os problemas éticos e legais desse tipo de ferramenta, muito evidentes, levam a uma pergunta óbvia: o X não sabia a gravidade do que estava fazendo? Não tinha dimensão da Caixa de Pandora que estava abrindo?
A resposta é tão óbvia quanto a pergunta. O X não só previu, como promoveu a sexualização via Grok. Desde os primeiros dias, Elon Musk alardeou o fato de que seu bot era diferente dos rivais por ser mais permissivo – ou, em suas palavras, menos woke. Para o bilionário, esse era um mérito na comparação com IAs como ChatGPT, Gemini e Claude, que, a seu ver, se esquivam de assuntos sensíveis e limitam suas respostas ao “politicamente correto”. Reportagens recentes do Washington Post revelaram que o Grok foi treinado propositalmente com conteúdo adulto, tarefa que funcionários foram instruídos a realizar usando enormes quantidades de dados, incluindo fotos e vídeos. Tudo isso acontecia enquanto o X reduzia a “duas ou três pessoas” (segundo uma fonte ouvida pelo jornal) seu departamento responsável pela segurança no design de ferramentas. O resultado foi uma IA especializada em interações mirando sexo, de piadas eróticas à pornografia sem consentimento, com pouquíssimas salvaguardas.
A decisão de Musk de fazer do conteúdo adulto o diferencial de sua IA não é um ato isolado. Faz parte de uma tendência que parece ter se intensificado nos últimos anos. Se antes já era impossível contar a história da internet sem falar de pornografia, agora passou a ser impossível pensar em sexo sem levar em conta a web, sobretudo com a facilitação propiciada pela inteligência artificial. Numa época em que são poucos os tipos de conteúdos online capazes de produzir um retorno financeiro consistente, a pornografia se destaca como uma exceção inabalável, imune a crises. Quem navega diariamente pelas grandes plataformas provavelmente já constatou que é cada vez mais comum se deparar com imagens e vídeos sugerindo temas sexuais, às vezes de forma explícita, mesmo quando não se pede por elas.
É um universo em expansão. Enquanto a IA inventa influenciadoras eróticas, plataformas de conteúdo adulto como OnlyFans vão de vento em popa, coaches de “pegação” angariam milhões de seguidores no TikTok e romances picantes ocupam posições proeminentes na lista dos mais vendidos da Amazon. Em redes como o TikTok, que têm suas famosas dancinhas como carro chefe, os algoritmos já entenderam que promover mulheres em coreografias sugestivas e roupas justas é vantajoso, já que isso produz enorme engajamento. No ano passado, a OpenAI, dona do ChatGPT, anunciou que vai liberar conteúdos de cunho erótico na plataforma em 2026. A empresa, vale lembrar, é a ponta de lança na busca pela viabilização financeira das IAs, que, por ora, ainda vivem numa bolha financeira que é motivo de muita especulação.
Se as redes sociais tornaram todos alcançáveis, as IAs têm tornado todos abusáveis. Em um cenário onde algoritmos promovem conteúdos eróticos com frequência – mesmo que sejam legais – e não preservam a imagem de seus usuários – o que é ilegal –, sobra espaço para o medo e se abrem frestas ao puritanismo que condena todos os tipos de conteúdo sexual, legal ou ilegal. Baseando-se no fato de que menores de idade conseguem acessar livremente sites de pornografia, os Estados Unidos e o Reino Unido adotaram medidas que dificultam o acesso de todo mundo a esse sites, incluindo os adultos. No ano passado, o governo britânico tornou obrigatório que todo cidadão se cadastre e apresente um documento oficial de identificação, ou cartão de crédito, caso queira entrar em sites pornográficos como o Pornhub, o maior desse segmento.
A medida também foi adotada em mais de vinte estados americanos, e, como era de esperar, fez o tráfego do site cair drasticamente. Segundo a controladora do Pornhub, a redução foi de mais de 70%. O site normalmente conta com quase 4 bilhões de acessos por mês em todo o mundo, eventualmente superando páginas como Netflix, Amazon e WhatsApp, segundo a plataforma Semrush (o levantamento considera apenas os sites, sem os aplicativos). O Pornhub alega que os processos de verificação de idade recomendados pelo poder público, com documento ou cartão de crédito, são invasivos e colocam todos os visitantes do site em risco de exposição num possível vazamento. Não é uma hipótese descabida. Por apresentarem conteúdo sensível, sites pornográficos são um alvo tradicional de ataques cibernéticos que visam, pelo acesso a dados de terceiros, a extorsões, chantagens e humilhações. Por essa razão, a medida afeta muito mais que os menores de idade, cuja presença no site o Pornhub diz concordar que deve ser coibida.
A empresa afirma ainda que, com tamanhas restrições, os usuários têm migrado para sites menos confiáveis – que, por sua vez, simplesmente ignoram as medidas de segurança do governo e não sofrem sanções por isso. Some-se, por fim, todos os possíveis meios de burlar os dispositivos de segurança, como o uso de VPNs, mecanismos que mascaram o país de onde se acessa. Por tudo isso, o Pornhub optou por não mais aceitar novos cadastros no Reino Unido desde o dia 2 de fevereiro.
Nunca antes na história da humanidade foi tão fácil produzir, consumir e distribuir conteúdo sexual. Estamos diante de uma nova fronteira, que exigirá um esforço redobrado de contenção de danos. Se já vivemos uma realidade em que qualquer pensamento pode se tornar material pornográfico em questão de segundos, é preciso imaginar novas formas de controle, começando pelo desenvolvimento desses apps, bem antes de se tornarem públicos. Qualquer software que diminua ou ignore a inclusão de freios eficientes contra abusos em seu design inicial, como vimos acontecer com Grok, não pode dizer que o fez devido a “falhas do sistema”. Trata-se de escolhas humanas.
Essa nova realidade exige novas disposições jurídicas atentas e atualizadas. Não cabe exclusivamente a milhões de usuários o ônus de testar os limites de tecnologias negligentes, com outras milhões de vítimas pelo caminho, à distância de um prompt. A resposta não é tão simples quanto parar de usar redes sociais – o que restringiria ainda mais a voz de grupos vulneráveis – ou dificultar o acesso à pornografia em geral. Tampouco a solução está em brincar com a situação, como fez Musk ao postar a imagem de um Hitler robô usando biquíni com uma placa dizendo “me desculpe”.