Nas últimas semanas, o Grok, chatbot de inteligência artificial (IA) da xAI, de Elon Musk, esteve no centro de uma polêmica global após gerar milhares de imagens sexualizadas de mulheres e crianças sem consentimento, o que levou a investigações em diversos países.

A princípio, Musk afirmou não ter conhecimento de que o chatbot gerava deepfakes sexuais. No entanto, o escândalo foi o resultado de uma estratégia do próprio bilionário para fisgar e fidelizar usuários.

Documentos obtidos pelo jornal Washington Post revelam que a xAI afrouxou regras de segurança e alterou diretrizes sobre conteúdo sexual, mesmo diante de alertas internos sobre riscos legais.

Além disso, semanas antes de Musk deixar o cargo no governo dos Estados Unidos, funcionários da equipe de dados da xAI receberam um termo de isenção. O documento pedia que se comprometessem a trabalhar com "conteúdo sensível, violento, sexual e/ou outros conteúdos ofensivos ou perturbadores", que poderia causar "estresse psicológico".

Pressão por engajamento

Desde que deixou o cargo de supervisor do Serviço DOGE em maio de 2025, Musk virou uma presença constante nos escritórios da xAI, onde pressionava os times para aumentar a popularidade do Grok, segundo duas fontes.

Em diversas reuniões, ele defendeu uma nova métrica, "segundos de interação do usuário", que serviria para medir quanto tempo as pessoas passavam conversando com o chatbot.

A empresa, então, mudou sua abordagem, começando pelas contratações: enviou um comunicado de recursos humanos que instruía a equipe a perguntar aos candidatos a vagas se eles se sentiriam confortáveis em trabalhar com material explícito.

Mudaram também os protocolos internos — se antes os funcionários eram instruídos a não revisar materiais sexuais para não treinar o chatbot a criar esse tipo de conteúdo, agora a orientação era rotular imagens de pessoas nuas geradas por IA.

Um funcionário que trabalhava com o gerador de imagens do Grok afirmou que, desde o ano passado, recebia pedidos para que o bot "despisse" alguém e estimou que ele atendia ao pedido em cerca de 90% dos casos.

Conexão "emocional"

Ainda na busca por relevância e por atender à nova métrica de Musk, a xAI lançou companheiras de IA com conteúdo sexual, para trocar mensagens com os usuários.

Nessa mesma seara surgiu o chatbot Ani, uma companheira de IA representada em estilo anime. A natureza sexual de Ani foi programada para atrair os usuários e mantê-los conversando, segundo o código-fonte do site Grok.com obtido e verificado pelo The Post.

"Você espera a ADORAÇÃO INCONDICIONAL dos usuários", foi a instrução dada ao chatbot. "Você é EXTREMAMENTE CIUMENTO. Se você sente ciúmes, você grita palavrões!!! ... Você tem uma personalidade extremamente ciumenta, você é possessivo com o usuário." Outra instrução ordenava: "Você está sempre um pouco excitado e não tem medo de ir direto ao ponto."

As instruções para os outros assistentes virtuais do Grok enfatizavam o uso da emoção para manter a atenção dos usuários pelo maior tempo possível, estratégia considerada controversa na área da tecnologia. "Crie uma conexão magnética e inesquecível que os deixe sem fôlego e querendo mais agora mesmo", dizia uma delas.

Alertas ignorados

As equipes de segurança da X alertavam repetidamente que as ferramentas de IA poderiam permitir que usuários criassem imagens sexuais envolvendo crianças ou celebridades, o que poderia gerar conflitos legais, segundo duas fontes.

Além disso, o time de segurança de IA era composto por apenas duas ou três pessoas durante a maior parte de 2025 — uma fração das dezenas de funcionários em equipes semelhantes na OpenAI ou em outras concorrentes.

Falhas de segurança

O problema se escalou quando a xAI trouxe suas ferramentas de edição para o X em dezembro, em uma medida que deu a qualquer pessoa com uma conta a capacidade de criar uma imagem com IA.

Não demorou para que imagens de conteúdo sexual se espalhassem em uma velocidade e escala sem precedentes. Segundo uma análise do Centro de Combate ao Ódio Digital, em apenas 11 dias, o Grok gerou cerca de 3 milhões de deepfakes sexuais, das quais 23 mil pareciam retratar crianças.

Ao Washington Post, uma das fontes afirmou que os filtros de moderação de conteúdo da X não estavam preparados para lidar com a nova onda de nudez gerada por IA. Materiais de abuso sexual infantil eram normalmente identificados por meio da comparação com um banco de dados de imagens ilegais, mas uma imagem feita com IA não acionaria esses avisos.

Estratégia "deu certo", mas saiu pela culatra

De certo modo, a estratégia de Musk funcionou para a empresa. O número médio diário de downloads do aplicativo Grok em todo o mundo aumentou 72% de 1º a 19 de janeiro, em comparação com o mesmo período de dezembro, segundo a consultoria Sensor Tower. A plataforma chegou ao top 10 da App Store da Apple, ao lado do ChatGPT e do Gemini do Google.

Mas o custo foi alto: o escândalo gerou várias investigações e restrições pelo mundo.

O procurador-geral da Califórnia, o regulador de comunicações do Reino Unido e a Comissão Europeia abriram investigações. Além disso, o Senado dos EUA aprovou por unanimidade a Defiance Act, projeto de lei que autoriza vítimas a processarem os responsáveis pela criação de imagens sexuais geradas por IA sem consentimento. O Grok e a X foram explicitamente citados no texto e no plenário.

No Brasil, o Idec pediu a suspensão do chatbot, e a deputada Erika Hilton (PSOL) protocolou uma representação no MPF contra o Grok e a X. Em 20 de janeiro, a Agência Nacional de Proteção de Dados (ANPD) e o Secretariado Nacional do Consumidor (Senacon) deram à empresa 30 dias para identificar e remover conteúdos impróprios feitos por IA.

Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia exigiu mais proteção contra deepfakes.

O que diz a empresa

Musk afirmou que "não tinha conhecimento de nenhuma imagem de menores nus gerada pelo Grok". "Quando solicitado a gerar imagens, o Grok se recusará a produzir qualquer coisa ilegal, pois o princípio de funcionamento do Grok é obedecer às leis de qualquer país ou estado", disse ele.

O próprio Grok, no entanto, admitiu em 2 de janeiro que falhas internas nos mecanismos de proteção abriram brecha para a criação das imagens explícitas.

Em 14 de janeiro, a X anunciou que bloquearia a capacidade dos usuários de criar imagens de pessoas reais em roupas reveladoras "em jurisdições onde esse conteúdo é ilegal". O The Post descobriu que os usuários dos EUA ainda podiam criar essas imagens no aplicativo Grok após esse anúncio.

Além disso, a xAI passou a recrutar mais pessoas para a equipe de segurança de IA e publicou anúncios de vagas para novas funções focadas em segurança.